CloudflareはAI Gatewayを通じて、Auto Routerのパブリックベータを開始した。ユーザーがモデルに`cloudflare/auto`を指定すると、組み込みの分類器がリクエストごとに回答するモデルを選ぶ。ルーティングは2段階で行われる。まずAI Gatewayが候補モデル群を作り、リクエストの形式に対応できないモデルや、認証情報、課金、アクセスのチェックに失敗したモデルを除外する。次に、Workers AI上でエッジ実行されるマルチヘッド分類モデルが、リクエストの複雑さ、曖昧さ、重要度、過去の文脈への依存度という4つの観点から評価し、1〜5のスコアを付ける。
分類器が確認するのは会話の最新ターンのみで、テキストは最大8 KiB。スコアリング後、システムは評価結果とベンチマーク結果を「効用＝予想される品質－適応型コストペナルティ」という式で組み合わせる。こうして、難しいタスクほど品質を重視しながら、品質と価格のバランスを取るモデルを選ぶ。
ベンチマークの結果
Cloudflareが97件のタスクで実施した自社ベンチマークでは、Auto Routerは単一の低価格モデルを使う場合と比べ、費用をおよそ3分の1に抑えながら、信頼性を10ポイント向上させた。同社によると、チームはコストと信頼性のどちらを優先するか決められる。これは、ほとんどのルーティング製品では提供されていない機能だ。デフォルトのモデル群にはClaude Opus 5、Sonnet 5、Fable 5、GPT-5.6 Luna、Sol、Terra、Grok 4.5が含まれる。Opus 5.5やGPT-6 Solなど、より上位のモデルは特別なリクエストヘッダーを通じてのみ利用できる。
実際の使い方
各レスポンスには`cf-aig-routed-model`と`cf-aig-routing-reason`という2つのヘッダーが付き、開発者はモデルが選ばれた理由を監査できる。リクエストごとに`cf-aig-allowed-models`と`cf-aig-allowed-providers`のヘッダーを指定すれば、候補を絞り込める。ただし、保存済みのルーティングプロファイルにはまだ対応していない。セッションIDを指定しない場合、連続するターンが異なるモデルに送られることがあり、プロンプトキャッシュが失われるうえ、文脈が長いほど大きくなる「切り替えペナルティ」が発生する。
Auto Routerはベータ期間中無料で、Cloudflareはその後の料金をまだ発表していない。現時点で対応するのはChat CompletionsとResponses APIで、WebSocketsには対応していない。今後提供予定の`cloudflare/auto-best`は、コストペナルティを適用せず、予想品質が最も高いモデルを選ぶ。
なぜ重要か
AIを活用したアプリを開発する人にとって、Auto Routerはリクエストごとにコストと性能のバランスが取れたモデルを自動で選び、出力品質を保ちながらクラウド料金を抑えられる可能性がある。一方、ルーティングはターンごとに行われ、セッションIDがなければモデルが切り替わることもある。モデルの挙動を一貫させたい場合、チームは文脈を保持できるようAPIを設計する必要がある。
