発話意図による条件付けと予測を用いた応答生成モデル
隆辻󠄀 秀和
言語生成は、入力された意図や文脈に応じて自然言語文を生成する課題である。特に対話応答生成では、これまでの対話履歴と、 システムが当該発話で述べるべき内容の双方を考慮した生成が求められる。
先行研究ではこれらをニューラルネットワークのエンコーダ部分に入力しているが、言語生成を行うデコーダがこれらを反映するかはモデルのパラメータに依存する。
本研究は、応答の発話意図を条件として利用する応答生成モデルに対して、生成結果が発話意図を必ず反映することを意図した学習手法を提案する。
提案手法は、生成結果から発話意図を再構築する言語理解モデルを導入し、これによって計算されるReconstruction Lossもまた、条件付き応答生成に対する目的関数の一つとして取り扱う。
このことによって、生成結果が与えられた条件を反映することを保証できるようにすることが、本研究の目的である。
具体的に発話意図を再構築する手法として、本研究では二種類の手法を提案し、ベースライン手法とそれらを比較することで、Reconstruction Lossの計算による影響を確認する。
提案手法を用いる影響について、発話意図が予め付与されている複数のコーパスを利用し、自動評価とクラウドソーシングによる評価を用いて確認した。