Oossa

TRACER、LLMエージェントのツール選択を高速化

新たなフロントエンドTRACERは、大規模言語モデルがより少ないトークンで高精度にツールを選べるようにする。テストではトークン使用量を80%削減した。

著者: Oossa公開日: 1 分で読める

Sincerely Media · Unsplash

研究者らは、大規模言語モデルのエージェントが膨大なツール登録群から適切なツールを選ぶのを支援する検索システム「TRACER」を公開した。このシステムは過去のツール呼び出しの連続をトライ(木構造のインデックス)に保存し、データに基づく手掛かりと文脈上の手掛かりを組み合わせて、次に使うツールの候補を順位付けする。実験では、GPT‑5.4に提示するツールを128個中5個に絞ったところ、正しいツールを選ぶ割合が4.7ポイント上昇し、1ステップ当たりの入力トークン数は約80%減少した。

どれほど性能が向上するのか

6つのテスト環境と4つの言語モデルを使った検証では、TRACERは24通りのモデル・環境の組み合わせのうち21通りで、全ツールを提示する方式を上回った。ツール選択精度の平均向上幅は6~10ポイントで、性能が下がった3ケースも、低下幅は最大2.2ポイントだった。1ターン全体を自律的に実行するテストでは、タスク全体の成功率をGPT‑5.4と同等に保ちながら、1ステップ当たりの入力トークン数を61%削減した。

ユーザーにとっての意味

在庫の確認や通信プランの有効化など、外部サービスを呼び出すAIアシスタントを開発する人にとって、TRACERは実行の高速化と低コスト化につながる。言語モデルに送るトークン数を大幅に減らせるためだ。また、利用可能なツールが多い場合、トークン数の削減によってモデルのコンテキスト上限に達するリスクも下げられる。

なぜ重要か

言語モデルに送るトークン数が減るため、開発者はより速く、低コストで動くアシスタントを構築できる。利用者にとっても、AIが価格を調べたり、サービスを予約したり、外部システムからデータを取得したりする際の応答が速くなる可能性がある。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。