Oossa

Baseten、オープンモデルにツールの遅延読み込みを導入 コストを最大62%削減

新機能はトークン使用量を減らしてタスクを高速化。コーディングエージェントでは、コストを最大62.5%、所要時間を26%削減する。

短信著者: Oossa公開日: 1 分で読める

Basetenは、DeepSeek、Kimi、GLMなどのオープンモデルで、Model APIsがツールの遅延読み込みに対応したと発表した。この機能では、ツールのスキーマをシステムプロンプトに含めず、必要なときだけ読み込む。登録済みプラグインを3つ使ったClaude Codeのテストでは、コーディングベンチマークのコストが62.5%下がり、処理速度が26.2%向上した。エージェント型のベンチマークでも、コストは約51%、所要時間は約15%削減された。

なぜ重要か

開発者は、モデルやコードを変更せずに、AIエージェントをより低コストかつ高速に実行できる。

出典と参考資料

1 件の出典
  1. Baseten原典を読む

Markdown

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。