# Cloudflare test Auto Router die per verzoek een AI-model kiest

> De nieuwe Auto Router in Cloudflare AI Gateway beoordeelt elk verzoek op complexiteit, dubbelzinnigheid, inzet en context en kiest vervolgens een model uit een wisselende pool.

Oossa · 2026-10-26 · https://oossa.com/nl/cloudflare-launches-auto-router-beta-to-pick-ai-models-per-request

Cloudflare heeft Auto Router beschikbaar gemaakt in publieke bèta via AI Gateway. Gebruikers stellen het model in op `cloudflare/auto`, waarna een ingebouwde classifier bepaalt welk model elk verzoek moet beantwoorden. De routering verloopt in twee stappen. Eerst stelt AI Gateway een pool met kandidaten samen. Modellen die het verzoekformaat niet aankunnen of niet voldoen aan controles voor inloggegevens, facturering of toegang, worden uitgesloten. Vervolgens beoordeelt een classificatiemodel met meerdere uitvoerkoppen, dat aan de rand van het netwerk op Workers AI draait, het verzoek op vier punten: complexiteit, dubbelzinnigheid, inzet en afhankelijkheid van eerdere context. Het kent elk punt een score van 1 tot 5 toe.

De classifier kijkt alleen naar de meest recente beurt in het gesprek, met een maximum van 8 KiB tekst. Na de beoordeling combineert het systeem de scores met benchmarkresultaten aan de hand van de formule ‘nut = verwachte kwaliteit – adaptieve kostenpenalty’. Zo kiest het een model dat kwaliteit en prijs tegen elkaar afweegt, waarbij moeilijkere taken zwaarder wegen.

## Wat de benchmark laat zien

In een eigen benchmark met 97 taken behaalde Auto Router volgens Cloudflare tien punten meer betrouwbaarheid dan één goedkoper model gebruiken, voor ongeveer een derde van de uitgaven. Het bedrijf zegt dat teams zelf kunnen kiezen of ze kosten of betrouwbaarheid voorrang geven; die mogelijkheid bieden de meeste routeringsproducten niet. De standaardpool bevat Claude Opus 5, Sonnet 5, Fable 5, GPT‑5.6 Luna, Sol en Terra, en Grok 4.5. Modellen uit een hogere categorie, zoals Opus 5.5 en GPT‑6 Sol, zijn alleen bereikbaar via speciale aanvraagheaders.

## Hoe het in de praktijk werkt

Bij elk antwoord worden twee headers meegestuurd: `cf-aig-routed-model` en `cf-aig-routing-reason`. Zo kunnen ontwikkelaars controleren waarom een model is gekozen. De pool kan per verzoek worden beperkt met de headers `cf-aig-allowed-models` en `cf-aig-allowed-providers`, maar opgeslagen routeringsprofielen worden nog niet ondersteund. Zonder sessie-ID kunnen opeenvolgende beurten naar verschillende modellen worden gestuurd. Daardoor gaat de promptcache verloren en ontstaat een ‘wisselpenalty’ die toeneemt met de lengte van de context.

Auto Router is tijdens de bèta gratis; Cloudflare heeft nog geen prijzen voor daarna bekendgemaakt. De functie ondersteunt momenteel Chat Completions en de Responses API, maar geen WebSockets. Een toekomstige variant met de naam `cloudflare/auto-best` kiest het model met de hoogste verwachte kwaliteit, zonder rekening te houden met de kosten.

## De feiten

- Cloudflare heeft Auto Router sinds oktober 2026 als publieke bèta beschikbaar in AI Gateway.
- De classifier beoordeelt elk verzoek op vier punten: complexiteit, dubbelzinnigheid, inzet en afhankelijkheid van context. Elk punt krijgt een score van 1 tot 5.
- De benchmark omvatte 97 taken, drie steekproeven per model en 10.000 bootstrap-herhalingen. De resultaten lieten tien punten meer betrouwbaarheid zien voor ongeveer een derde van de uitgaven.
- De standaardpool bevat Claude Opus 5, Sonnet 5, Fable 5, GPT‑5.6 Luna, Sol, Terra en Grok 4.5; voor modellen uit een hogere categorie zijn speciale headers nodig.
- Auto Router is gratis tijdens de bèta en werkt momenteel alleen met Chat Completions en de Responses API.

## Waarom het ertoe doet

Voor ontwikkelaars die AI-apps bouwen, kan Auto Router elk verzoek automatisch koppelen aan een model dat kosten en prestaties tegen elkaar afweegt. Dat kan de cloudrekening verlagen en de kwaliteit van de uitvoer op peil houden. Omdat de routeringskeuze per beurt wordt gemaakt en zonder sessie-ID kan veranderen, moeten teams hun API’s wel zo inrichten dat de context behouden blijft als ze consistent modelgedrag willen.

## Bronnen en referenties

1. [Cloudflare’s Auto Router Rates Each Request for Stakes, from the Most Recent Turns](https://www.infoq.com/news/2026/10/cloudflare-auto-router/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=AI%2C+ML+%26+Data+Engineering) – InfoQ, 2026-10-26

Laatst bijgewerkt: 2026-10-26