AIエージェントへの介入効果を学習し、適切な修正を促す新手法

研究者らが、言語モデルエージェントへの修正が効果を発揮するタイミングを予測するモニター「VoS」を発表。性能を約8ポイント向上させた。

短信著者： OossaOossa公開日: 2026年10月8日 5:09 UTC最終更新: 2026年10月8日 6:37 UTC1 分で読める

Hanwen Li氏らは2026年10月8日、VoS（Value of Steering）についての論文を公開した。VoSは反実仮想の実行結果を集めた大規模な表から学習し、LLMベースのエージェントをどのステップで修正すべきかを判断する。オフラインでもオンラインでも動作し、ハームバジェットに基づくトリガーを使って、正常に進んでいる実行を妨げないようにする。12のベンチマークとエージェントの組み合わせで評価したところ、VoSはスコアを平均7.8ポイント向上させ、既存の不確実性ベースのトリガー5種類のうち11ケースで上回った。