相田 太一‎ > ‎B3ゼミ‎ > ‎

第7回

鈴木「対話システム」

興味:性能の向上。でも企業がやってしまいそう。学生がやるなら新規特徴…?対話に必要な知識の獲得もアリ。
発話と対話:対話はやり取りのまとまり。発話はその中の発言の1つ。
用例ベース?:機械学習を使えば新しい用例を作れるのでは?
実用性を考慮するとルールベース。機械学習は早い。
研究だと機械学習、ディープラーニングになる。



守谷「ニューラルネット2」

ソフトマックス関数:入力を入力の総和で正規化
ニューラルネットの順伝播について。次回は逆伝播
勾配降下法と誤差逆伝播は同じ?:多分同じ。
言語処理では?:単語をone-hot表現に入れてあげればできるらしい。
言語処理におけるLeRU関数:他の関数は2値(0,1)だが、LeRUは(0,x)だから難しい。



吉澤「AEとVAE」

VAE:正規分布をなぞるようなノイズεで確率論的な意味合いを含んでいる。
end-to-endモデル?GANはそう。:わからない。AEは入力依存だが、VAEで確率的に生成できる。
GAN:トムとジェリーみたいな感じ。片方が生成、もう片方が指摘。どっちも強くなっていく。特徴の足し合わせもできる。例)AとBの顔の特徴に肌の色を足す。
入力から中間層にかけて次元を圧縮。中間層から出力にかけて次元を拡張。次元(入力)=次元(出力)



相田「逐次ベイズ学習(サンプリング近似)」



Comments