A Cloudflare disponibilizou o Auto Router em beta pública por meio do AI Gateway. Os usuários definem o modelo como `cloudflare/auto`, e um classificador integrado decide qual modelo deve responder a cada solicitação. O roteamento ocorre em duas etapas. Primeiro, o AI Gateway monta um conjunto de modelos candidatos, removendo aqueles que não conseguem lidar com o formato da solicitação ou que não passam pelas verificações de credenciais, cobrança ou acesso. Em seguida, um modelo de classificação com várias cabeças, executado no Workers AI na borda da rede, avalia a solicitação em quatro dimensões – complexidade, ambiguidade, riscos e dependência do contexto anterior – e atribui a cada uma uma nota de 1 a 5.
O classificador analisa apenas a mensagem mais recente da conversa, com até 8 KiB de texto. Depois da avaliação, o sistema combina as notas com os resultados de benchmarks usando a fórmula “utilidade = qualidade esperada – penalidade de custo adaptativa”. O resultado é a escolha de um modelo que busca equilibrar qualidade e preço, dando mais peso às tarefas difíceis.
O que mostra o benchmark
No benchmark da própria Cloudflare, que abrangeu 97 tarefas, o Auto Router aumentou a confiabilidade em dez pontos e gastou cerca de um terço do valor necessário para usar um único modelo mais barato. A empresa afirma que as equipes podem decidir se querem priorizar o custo ou a confiabilidade, algo que a maioria dos produtos de roteamento não permite. O conjunto padrão inclui Claude Opus 5, Sonnet 5, Fable 5, GPT‑5.6 Luna, Sol e Terra, e Grok 4.5. Modelos de categorias superiores, como Opus 5.5 e GPT‑6 Sol, só podem ser acessados por meio de cabeçalhos especiais nas solicitações.
Como funciona na prática
Cada resposta inclui dois cabeçalhos – `cf-aig-routed-model` e `cf-aig-routing-reason` – para que os desenvolvedores possam auditar por que um modelo foi escolhido. É possível restringir o conjunto por solicitação usando os cabeçalhos `cf-aig-allowed-models` e `cf-aig-allowed-providers`, embora ainda não seja possível salvar perfis de roteamento. Sem um ID de sessão, mensagens consecutivas podem ser encaminhadas a modelos diferentes, o que faz perder o cache de prompts e gera uma “penalidade de troca” que aumenta conforme o contexto fica mais longo.
O Auto Router é gratuito durante o beta, e a Cloudflare ainda não anunciou os preços após esse período. No momento, o recurso é compatível com Chat Completions e a Responses API, mas não com WebSockets. Uma futura variante, chamada `cloudflare/auto-best`, selecionará o modelo com a maior qualidade esperada, sem aplicar uma penalidade de custo.
Por que importa
Para desenvolvedores que criam aplicativos com IA, o Auto Router pode encaminhar automaticamente cada solicitação ao modelo que melhor equilibra custo e desempenho, reduzindo potencialmente as contas de nuvem sem comprometer a qualidade das respostas. No entanto, como as decisões de roteamento são tomadas a cada mensagem e podem mudar sem um ID de sessão, as equipes precisam projetar suas APIs para preservar o contexto caso queiram manter um comportamento consistente dos modelos.
