PORA、LLMエージェントが推論の長さを判断

新手法PORAは、予算と期待できる効果に応じて、言語モデルエージェントが短い推論と長い推論を使い分けるよう学習させ、計算量を最大半分に抑える。

短信著者： OossaOossa公開日: 2026年10月21日 5:40 UTC1 分で読める

Qi Zhang氏らの研究チームは、長い推論によって結果が改善するタイミングを学習するLLMエージェント向けの手法「PORA」を発表した。学習時には同じステップを、短い推論の制限と長い推論の制限の2通りで実行し、どちらが最終的に良い結果を出すかを確かめる。実行時には、コントローラーが学習した推定値と残りの計算予算をもとに、両方を試すことなく、より低コストな選択肢を選ぶ。メモリー、コード、小売、数学のタスクで行ったテストでは、メモリーのベンチマークでスコアが最大32.9%向上し、数学のタスクではモデル呼び出し回数が最大31%減少した。