Amazon Bedrock AgentCore Gateway est désormais compatible avec les API InvokeModel et InvokeModelWithResponseStream. Vous pouvez ainsi connecter votre SDK Bedrock existant à la passerelle et accéder à n’importe quel fournisseur de modèles sans modifier votre code. La passerelle ajoute également une fonction de basculement vers un modèle de secours : si le modèle principal est soumis à une limitation de débit, manque de capacité ou est inaccessible, la requête est automatiquement envoyée au modèle de secours que vous avez indiqué. Le routage de secours et le disjoncteur intégré fonctionnent en arrière-plan : les clients n’envoient qu’une seule requête et ne reçoivent qu’une seule réponse.
Pourquoi c'est important
Les développeurs peuvent assurer le bon fonctionnement de leurs agents d’IA sans écrire de logique personnalisée de nouvelle tentative.