A Cloudflare lançou hoje a versão beta pública do Auto Router para o AI Gateway. Os usuários podem definir o modelo como cloudflare/auto, e o sistema encaminhará cada solicitação ao modelo mais barato capaz de realizar a tarefa. Em testes internos, o roteador reduziu os custos em até 30% em comparação com o uso constante de modelos de ponta, como o Sol, da OpenAI, ou o Opus, da Anthropic. O recurso é gratuito durante o período beta e busca ajudar as organizações a controlar os gastos com IA sem que os usuários precisem escolher os modelos manualmente.
Por que importa
O recurso permite que empresas reduzam automaticamente os gastos com IA, sem deixar de oferecer aos usuários acesso a modelos poderosos quando necessário.
