Oggi Cloudflare ha lanciato Auto Router in beta pubblica per il suo AI Gateway. Gli utenti possono impostare il modello su cloudflare/auto e il sistema indirizzerà ogni richiesta al modello meno costoso in grado di svolgere il compito. Nei test interni, il router ha ridotto i costi fino al 30% rispetto all’utilizzo costante di modelli di fascia alta come Sol di OpenAI o Opus di Anthropic. La funzione è gratuita durante la beta e punta ad aiutare le organizzazioni a tenere sotto controllo la spesa per l’IA, senza che gli utenti debbano scegliere manualmente i modelli.
Perché conta
Permette alle aziende di ridurre automaticamente i costi dell’IA, continuando a offrire agli utenti l’accesso a modelli potenti quando serve.