Cloudflare heeft Auto Router beschikbaar gemaakt in publieke bèta via AI Gateway. Gebruikers stellen het model in op `cloudflare/auto`, waarna een ingebouwde classifier bepaalt welk model elk verzoek moet beantwoorden. De routering verloopt in twee stappen. Eerst stelt AI Gateway een pool met kandidaten samen. Modellen die het verzoekformaat niet aankunnen of niet voldoen aan controles voor inloggegevens, facturering of toegang, worden uitgesloten. Vervolgens beoordeelt een classificatiemodel met meerdere uitvoerkoppen, dat aan de rand van het netwerk op Workers AI draait, het verzoek op vier punten: complexiteit, dubbelzinnigheid, inzet en afhankelijkheid van eerdere context. Het kent elk punt een score van 1 tot 5 toe.
De classifier kijkt alleen naar de meest recente beurt in het gesprek, met een maximum van 8 KiB tekst. Na de beoordeling combineert het systeem de scores met benchmarkresultaten aan de hand van de formule ‘nut = verwachte kwaliteit – adaptieve kostenpenalty’. Zo kiest het een model dat kwaliteit en prijs tegen elkaar afweegt, waarbij moeilijkere taken zwaarder wegen.
Wat de benchmark laat zien
In een eigen benchmark met 97 taken behaalde Auto Router volgens Cloudflare tien punten meer betrouwbaarheid dan één goedkoper model gebruiken, voor ongeveer een derde van de uitgaven. Het bedrijf zegt dat teams zelf kunnen kiezen of ze kosten of betrouwbaarheid voorrang geven; die mogelijkheid bieden de meeste routeringsproducten niet. De standaardpool bevat Claude Opus 5, Sonnet 5, Fable 5, GPT‑5.6 Luna, Sol en Terra, en Grok 4.5. Modellen uit een hogere categorie, zoals Opus 5.5 en GPT‑6 Sol, zijn alleen bereikbaar via speciale aanvraagheaders.
Hoe het in de praktijk werkt
Bij elk antwoord worden twee headers meegestuurd: `cf-aig-routed-model` en `cf-aig-routing-reason`. Zo kunnen ontwikkelaars controleren waarom een model is gekozen. De pool kan per verzoek worden beperkt met de headers `cf-aig-allowed-models` en `cf-aig-allowed-providers`, maar opgeslagen routeringsprofielen worden nog niet ondersteund. Zonder sessie-ID kunnen opeenvolgende beurten naar verschillende modellen worden gestuurd. Daardoor gaat de promptcache verloren en ontstaat een ‘wisselpenalty’ die toeneemt met de lengte van de context.
Auto Router is tijdens de bèta gratis; Cloudflare heeft nog geen prijzen voor daarna bekendgemaakt. De functie ondersteunt momenteel Chat Completions en de Responses API, maar geen WebSockets. Een toekomstige variant met de naam `cloudflare/auto-best` kiest het model met de hoogste verwachte kwaliteit, zonder rekening te houden met de kosten.
Waarom het ertoe doet
Voor ontwikkelaars die AI-apps bouwen, kan Auto Router elk verzoek automatisch koppelen aan een model dat kosten en prestaties tegen elkaar afweegt. Dat kan de cloudrekening verlagen en de kwaliteit van de uitvoer op peil houden. Omdat de routeringskeuze per beurt wordt gemaakt en zonder sessie-ID kan veranderen, moeten teams hun API’s wel zo inrichten dat de context behouden blijft als ze consistent modelgedrag willen.
