Oossa

AgentCore Gateway ondersteunt InvokeModel en terugvalroutes

Via één endpoint kun je nu elk Bedrock-model aanroepen. Valt het eerste model uit, dan schakelt de gateway automatisch over op een reservemodel.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Amazon Bedrock AgentCore Gateway werkt nu met de API’s InvokeModel en InvokeModelWithResponseStream. Je kunt daardoor je bestaande Bedrock-SDK op de gateway aansluiten en elke modelaanbieder bereiken zonder je code aan te passen. De gateway ondersteunt nu ook terugval naar een ander model: als het primaire model wordt beperkt, geen capaciteit heeft of onbereikbaar is, stuurt de gateway het verzoek automatisch naar een reservemodel dat je zelf kiest. De terugvalroute en ingebouwde circuit breaker werken op de achtergrond, zodat clients maar één verzoek en één antwoord zien.

Waarom het ertoe doet

Ontwikkelaars kunnen hun AI-agents soepel laten werken zonder zelf logica voor nieuwe pogingen te hoeven schrijven.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.