Yanfei Chen氏が率いるチームは、大規模言語モデル(LLM)エージェントを動かすコードを自動で改良する、プラグアンドプレイ型フレームワーク「Harness²」を公開した。このシステムは2段階の再帰処理を使う。タスク単位の処理では、正解データを必要とせずにコードの変更案を作成して検証し、ハーネス単位の処理では、その変更から学んで後続のタスクに生かす。3つの業務ベンチマークでのテストでは、再帰を1回行うだけで、WorkBuddy‑Benchのスコアが最大11.5ポイント、JobBenchが最大4.5ポイント、LABが最大11.8パーセントポイント向上した。
なぜ重要か
この手法により、AIアシスタントは人手でコードを調整しなくても、現実の新たなタスクに適応できる可能性がある。変化の多い環境でLLMエージェントを導入する開発者にとって有益となりそうだ。