Oossa

Cloudflare、AI Gateway向け「Auto Router」をベータ公開

リクエストごとに対応可能な最安モデルを自動選択。コストを最大30%削減できるという。

短信OossaOossa公開日: 1 分で読める

Cloudflareは本日、AI Gateway向けの「Auto Router」をパブリックベータとして公開した。ユーザーはモデルに「cloudflare/auto」を指定でき、システムが各リクエストを処理できるモデルのうち最も安価なものに振り分ける。社内テストでは、OpenAIのSolやAnthropicのOpusのような最上位モデルを常に使う場合と比べ、コストを最大30%削減できた。ベータ期間中は無料で利用できる。この機能により、ユーザーが手動でモデルを選ばなくても、組織がAI関連の支出を抑えられるようにすることを目指す。

なぜ重要か

必要なときには高性能モデルを利用しながら、企業がAI関連の支出を自動的に抑えられる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。