Oossa

AgentCore Gateway añade InvokeModel y rutas de respaldo

Ahora puedes invocar cualquier modelo de Bedrock desde un único endpoint. Si el modelo principal falla, el gateway cambia automáticamente a uno de respaldo.

BrevePor Publicado por Oossa: 1 min de lectura

Amazon Bedrock AgentCore Gateway ahora es compatible con las API InvokeModel e InvokeModelWithResponseStream. Así, puedes conectar al gateway el SDK de Bedrock que ya usas y acceder a cualquier proveedor de modelos sin modificar el código. El gateway también incorpora la opción de recurrir a un modelo de respaldo: si el modelo principal sufre una limitación de solicitudes, no tiene capacidad disponible o no se puede alcanzar, envía automáticamente la solicitud al modelo de respaldo que hayas especificado. El enrutamiento de respaldo y un disyuntor integrado funcionan en segundo plano, por lo que los clientes solo ven una solicitud y una respuesta.

Por qué importa

Los desarrolladores pueden mantener sus agentes de IA en funcionamiento sin tener que programar una lógica de reintentos personalizada.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.