Oossa

MicrosoftとUC Berkeley、TokenEconomizerを公開

オープンソースのプラグインで、エージェント自体を変更せずにSWE-Benchでのコーディングエージェントのトークン使用量を18.4〜30.9%削減したという。

著者: Oossa公開日: 2 分で読める

Florian Olivo · Unsplash

Microsoft Researchとカリフォルニア大学バークレー校(UC Berkeley)は、コーディングエージェントのトークン使用量を抑えるためのオープンソースプラグイン「TokenEconomizer」を公開した。MarkTechPostによると、このプラグインは過去のセッションから学習し、SWE-Benchでトークンコストを18.4〜30.9%削減したという。研究チームは、エージェント自体を変更せずに動作すると説明している。

トークンとは、AIシステムが処理するテキストの単位だ。使用量を減らせば、エージェントが必要とするモデルの利用量を抑えられる可能性がある。ただし、報告された割合はトークンコストに関するもので、具体的な金額は示されていない。また、すべてのユーザーが同じ削減効果を得られるという意味でもない。結果はSWE-Benchに基づくもので、タスクやエージェントの構成によって削減幅がどう変わったかは、公開情報からは分からない。

ここで説明されている中心的な仕組みは、過去のセッションから学習することだ。別のコーディングエージェントを導入する必要はなく、TokenEconomizerはセッション履歴を利用してトークン使用を効率化するアドオンとして紹介されている。コーディングエージェントを繰り返し使うチームには有用かもしれないが、どの情報を保存するのか、何を再利用するかをどう判断するのか、ユーザーがその判断を制御できるのかは説明されていない。

まだ分かっていないこと

報告された数値は、トークン削減の可能性を示すものとして期待できる一方、効果を評価するために必要な情報が不足している。MarkTechPostは、テストに使ったモデルやエージェント、ベンチマークの設定、実行回数、ほかのトークン削減手法との比較を明らかにしていない。結果が独立機関によって検証されたかどうかも不明だ。こうした情報がない以上、この割合は1つのベンチマークで報告された結果として捉えるべきで、ほかのコーディング作業でも同じ効果が得られる保証ではない。

TokenEconomizerはオープンソースとされているが、発表の概要にはリポジトリやライセンス、対応エージェント、導入要件が記載されていない。こうした情報があれば、開発者がどれほど簡単に試せるか、手元のツールに適合するかを判断できる。現時点で確認できるのは、Microsoft ResearchとUC Berkeleyが、エージェントを変更せずにSWE-Benchでのコーディングエージェントのトークンコストを削減できるとうたうプラグインを公開した、という点に限られる。

なぜ重要か

コーディングエージェントを使う開発者にとって、同様の削減効果が自分たちのタスクでも得られれば、利用コストを抑えられる可能性がある。ただし、報告された結果はSWE-Benchに限られ、実際の作業での削減効果や金額、対応するエージェントは明らかになっていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。