Cloudflare heeft vandaag Auto Router in openbare bèta uitgebracht voor zijn AI Gateway. Gebruikers kunnen cloudflare/auto als model instellen; het systeem stuurt elk verzoek dan door naar het goedkoopste model dat de taak aankan. In interne tests verlaagde de router de kosten met maximaal 30% ten opzichte van het gebruik van uitsluitend topmodellen als Sol van OpenAI of Opus van Anthropic. De functie is gratis zolang de bèta loopt en moet organisaties helpen hun AI-uitgaven in de hand te houden, zonder dat gebruikers zelf modellen hoeven te kiezen.
Waarom het ertoe doet
Bedrijven kunnen hun AI-kosten automatisch verlagen en gebruikers toch toegang geven tot krachtige modellen wanneer dat nodig is.
