Oossa

Amazon Bedrock AgentCore Gateway 新增 InvokeModel 支持和备用路由

现在可通过一个端点调用任意 Bedrock 模型;如果首选模型调用失败,系统会自动切换到备用模型。

简讯作者: Oossa 发布日期: 1 分钟阅读

Amazon Bedrock AgentCore Gateway 现已支持 InvokeModel 和 InvokeModelWithResponseStream API。这意味着,你可以直接将现有的 Bedrock SDK 指向该网关,无需修改代码即可调用任何模型提供商的模型。网关还新增了模型故障转移功能:如果首选模型遭遇限流、容量不足或无法连接,系统会自动将请求发送到你指定的备用模型。故障转移路由和内置熔断器都在后台运行,因此客户端只会看到一次请求和一次响应。

为什么重要

开发者无需编写自定义重试逻辑,也能让 AI 智能体保持稳定运行。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。