Oossa

Amazon Bedrock AgentCore Gateway får stöd för InvokeModel och reservroutning

Nu kan du anropa valfri Bedrock-modell via en enda endpoint. Om den första modellen inte fungerar växlar gatewayen automatiskt till en reservmodell.

NotisAv Publicerad av Oossa: 1 min läsning

Amazon Bedrock AgentCore Gateway stöder nu API:erna InvokeModel och InvokeModelWithResponseStream. Det innebär att du kan använda din befintliga Bedrock SDK mot gatewayen och nå valfri modellleverantör utan att ändra koden. Gatewayen har också stöd för reservmodeller: om den primära modellen begränsas av anropsgränser, saknar kapacitet eller inte går att nå skickas anropet automatiskt vidare till en reservmodell som du anger. Reservroutningen och en inbyggd brytare hanteras i bakgrunden, så klienten ser bara ett anrop och ett svar.

Varför det spelar roll

Utvecklare kan hålla sina AI-agenter igång utan att skriva egen logik för återförsök.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.