自然言語処理学研究室の西田 悠人さん(博士後期課程1年)が、情報処理学会 第263回自然言語処理研究発表会において若手奨励賞を受賞しました。(2025/3/9)
|
自然言語処理研究会は、計算機を用いた言語処理に関わる諸技術(形態素解析、統語解析、意味解析、談話解析、自然言語生成、対話、言語知識表現・獲得、機械翻訳、その他言語解析の応用)および、そのための言語資源(言語資料・統計、辞書、文法等)を研究分野としています。第263回研究発表会は、2025年3月8~9日に長崎原爆資料館ホールおよびオンラインでハイブリッド開催されました。 若手奨励賞は、各研究会において優秀な論文発表を行った若手(その年の年度頭に30歳未満、または学生)に対して授与するものです。表彰件数は対象となる発表の10~20%程度とし、選考は研究会参加者の投票によって行われます。(NL研究会HPより抜粋) |  |
- 受賞者 Awardee:
西田 悠人
- 受賞研究テーマ Research theme:
"LLMの学習過程におけるタスク性能の不安定性とその緩和"
大規模言語モデル (LLM) の実世界での利活用が進むなかで、LLMの学習の安定性はモデルの信頼性を担保するために重要な要素です。 従来の研究では、LLMの損失関数の安定性に焦点が当てられてきました。 そのため、LLMは下流タスクによって性能を評価・比較するのが主流であるにもかかわらず，LLMの学習過程における下流タスクの性能の安定性についての知見は限定的です。
そこで、本研究ではLLMの事前学習過程における下流タスク性能の変化を調査し、タスク性能の不安定性が多くの事例で観察されることを示しました。
また、この不安定性を事後処理によって緩和するためにチェックポイントの統合手法の効果について報告しました。
- 著者 Authors:
西田 悠人(博士後期課程1年)、小田 悠介(客員助教・国立情報学研究所 大規模言語モデル研究開発センター)
- 受賞者のコメント Awardee's voice
この度、若手奨励賞にご選出いただき光栄です。本研究の共著者や本研究会の運営に携わった方々に感謝いたします。本受賞を励みとして、今後もLLMの分析に関する研究に邁進いたします。
- 外部リンク Links to：
第263回自然言語処理研究発表会 HP: https://www.ipsj.or.jp/kenkyukai/event/nl263.html