接着剤の精進日記

競プロでの精進や研究に関係したことを書いていきます。

論文メモ 「意味役割付与のためのスパン選択モデル」

意味役割付与のためのスパン選択モデル

大内 啓樹 進藤 裕之 松本 裕治
研究報告自然言語処理(NL),2018-NL-236(9),1-13 (2018-07-02) , 2188-8779
https://ipsj.ixsq.nii.ac.jp/ej/index.php?active_action=repository_view_main_item_detail&page_id=13&block_id=8&item_id=190362&item_no=1

どんなもの?

・スパン(フレーズ)選択に基づいた意味役割付与(SRL)モデルの提案
・意味役割付与 (Semantic Role Labeling; SRL) は,「いつ,どこで,誰が,何を,誰に,どうした」といった述語 と項の関係を同定する意味解析タスク
・可能な入力文のスパンをすべて考慮し、各意味役割ラベルに対するスコアを計算
・スパン特徴ベクトルに基づくアンサンブル法の提案

先行研究と比べてどこがすごい?

構文木などを用いずにすべての可能なスパンを考慮可能
・入力系列全体を考慮したスパンレベルの特徴量を使用可能
・ELMo を用いたアンサンブルスパンモデルがF1値87%でSOTAを2ポイント以上更新(英語意味役割付与タスク)

技術や手法のキモはどこ?

(1) 入力文の可能なスパンをすべて列挙する.(構文木を用いない)
(2) 列挙した各スパンにスコアをつける(bi-LSTMで入力文全体を考慮した特徴量)
(3) スコアのより高いスパンを出力する.
f:id:tkm-kyudo:20190509143417p:plain

どうやって有効だと検証した?

BIO 型 SRL モデルとの比較に基づく,提案モデルの 長所・短所の定量的・定性的分析
f:id:tkm-kyudo:20190509143444p:plain

議論はある?

疑問
・スパン・CRF モデルのそれぞれの長所は何か?
・ELMo によって,意味役割付与のどのような側面が改善されたか?
発見
・CRFモデルがスパン境界同定精度が高いのに対しスパンモデルはラベル予測精度が高い
・ELMo はスパン境界の同定精度向上に大きく寄与している
f:id:tkm-kyudo:20190509143510p:plain
f:id:tkm-kyudo:20190509143513p:plain

次に読むべき論文は?

・ニューラルSRLモデル
He, L., Lee, K., Lewis, M. and Zettlemoyer, L.: Deep semantic role labeling: What works and what’s next, Proceedings of ACL, pp. 473–483 (2017).
・ラベル付きスパン予測
T¨ackstr¨om, O., Ganchev, K. and Das, D.: Efficient In- ference and Structured Learning for Semantic Role La- beling, Transactions of ACL, Vol. 3, pp. 29–41 (2015).