Oossa

AgentCore Gateway supporta InvokeModel e il fallback

Il gateway consente di richiamare qualsiasi modello Bedrock da un unico endpoint e passa automaticamente a un modello di riserva se il primo non è disponibile.

BreveDi Pubblicato da Oossa: 1 min di lettura

Amazon Bedrock AgentCore Gateway ora supporta le API InvokeModel e InvokeModelWithResponseStream. Puoi quindi collegare al gateway il tuo SDK Bedrock esistente e accedere a qualsiasi provider di modelli senza modificare il codice. Il gateway introduce anche il fallback tra modelli: se il modello principale è soggetto a limitazioni, non ha capacità disponibile o non è raggiungibile, la richiesta viene inviata automaticamente a un modello di riserva specificato da te. Il routing di fallback e un interruttore automatico integrato funzionano in background, così i client vedono una sola richiesta e una sola risposta.

Perché conta

Gli sviluppatori possono mantenere operativi i propri agenti AI senza dover scrivere una logica personalizzata per riprovare le richieste.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.