研究者らは、回答する前に情報を検索する言語モデルの訓練法「Self-Assessment Reinforcement Learning(SARL)」を提案した。モデルが見つけた情報と、まだ不足している情報を把握できるようにし、誤った推論や検索の早期打ち切りを減らすことを目指す。
著者らによると、最も強力なベースラインと比べて相対的に24.3%向上した。また、複数段階の推論ベンチマークでは平均35.9%、深掘り調査ベンチマークでは同タスクの最強ベースラインに対して27.9%の向上を報告している。回答時に追加の評価は不要だという。一方、論文の要旨には検証に使ったモデル名が記載されておらず、実際に導入された検索ツールにも結果が当てはまるか判断できるだけの詳細は示されていない。
なぜ重要か
リサーチアシスタントを開発するチームにとって、SARLは、利用時に別の手順を追加するのではなく、訓練段階で検索状況の追跡を学習させられる可能性を示している。ただし、実際の製品でも効果があるかは要旨からは分からない。