発話と対話：対話はやり取りのまとまり。発話はその中の発言の1つ。

用例ベース？：機械学習を使えば新しい用例を作れるのでは？

実用性を考慮するとルールベース。機械学習は早い。

研究だと機械学習、ディープラーニングになる。

守谷「ニューラルネット2」

ソフトマックス関数：入力を入力の総和で正規化

ニューラルネットの順伝播について。次回は逆伝播

勾配降下法と誤差逆伝播は同じ？：多分同じ。

言語処理におけるLeRU関数：他の関数は2値（0,1）だが、LeRUは（0,x）だから難しい。

吉澤「AEとVAE」

VAE：正規分布をなぞるようなノイズεで確率論的な意味合いを含んでいる。

end-to-endモデル？GANはそう。：わからない。AEは入力依存だが、VAEで確率的に生成できる。

GAN：トムとジェリーみたいな感じ。片方が生成、もう片方が指摘。どっちも強くなっていく。特徴の足し合わせもできる。例）AとBの顔の特徴に肌の色を足す。

入力から中間層にかけて次元を圧縮。中間層から出力にかけて次元を拡張。次元（入力）＝次元（出力）

相田「逐次ベイズ学習（サンプリング近似）」