論文:EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing 担当:稲岡さん - ADD : KEEP : DELETE の重みの比率を変えると出力長を変化させられるが、KEEPを増やしたからといって入力長と一致する訳ではない(DELETEなども行われているため)
- 出力長を変化できる、という主張
- 出力を評価していないので怪しい
- NPI(Neural Programmer Interpreter):画像処理などで画像の回転処理などを命令する際に用いたもの
- 単にLSTMで解釈しているため、簡単に作れそう
- 工夫などはない
- Programmer の decoder でADD(word)が出た時、出力はそのままwordを採用
- STOP:コーパスにラベルを振る段階で、残りの操作が全部KEEPになる時にSTOPを振る
- 本当はKEEPが多くなる
- KEEPばかりになるのを回避(コピーばかりになるのを防ぐ)
- 今回の重みは頻度の逆数を使用(頻度が不均衡であるので)
- 言い換えはできる(挿入、削除、保持があればいかなる文も表現できるので)
- 相当Lexicalな言い換え
- 削除は削除、他は他で準備した方が良さそう?
- 今までのモデルが翻訳主体だから色々なことができたが、代わりに余計なこともしていた
- 今回のモデルは余計なことをしないから上手くいった、手堅い
- 結果で3項目のうち、1つの項目だけを見て評価するのは良くない。(1項目だけを上げるのは簡単なので)
|