Amazon Bedrock AgentCore Gateway теперь поддерживает API InvokeModel и InvokeModelWithResponseStream. Это позволяет направлять запросы к шлюзу через уже используемый SDK Bedrock и обращаться к любому поставщику моделей без изменений в коде. Кроме того, в шлюзе появилась функция резервной маршрутизации: если основная модель ограничивает частоту запросов, у неё закончилась пропускная способность или она недоступна, запрос автоматически перенаправляется на указанную вами резервную модель. Переключение и встроенный автоматический выключатель работают в фоновом режиме, поэтому клиент отправляет один запрос и получает один ответ.
Почему это важно
Разработчики могут поддерживать бесперебойную работу ИИ-агентов, не создавая собственную логику повторных попыток.
