木構造を扱う上で, Recursive NNのような形でNNが事例が報告されている( Socher et al.,2014) この論文では 木構造に対するLSTMを利用したNNの提案である. LSTMを利用し木構造に適したNNを構成(RNNの亜種と考えられる)することで, 既存手法に打ち勝った. 木構造は木構造としてNNを取り扱った方が良い というのが この論文の主旨. 素性エンジニアリングを頑張ってきた手法に対しても 打ち勝っていることから, NNの能力の高さに驚いた. Recursive NN with LSTM のようなモデルも考えられるので,これとも比較するとどうなるかは気になる. ただ, 現実問題はParsingの性能も加味する必要があるので, 難しいところである. GloVeの次元数が300であるが, 高いほど能力が上がるのだろうか. NNの初期値として既存の分散表現を利用する方法は 良いようだ. |
|
|
