Cloudflare今日为其AI Gateway推出自动路由器公测版。用户可将模型设置为cloudflare/auto，系统便会为每个请求自动选择能够处理该任务且价格最低的模型。内部测试显示，与始终使用OpenAI的Sol或Anthropic的Opus等顶级模型相比，该路由器最多可降低30%的成本。公测期间，这项功能免费，旨在帮助机构控制AI开支，同时免去用户手动选择模型的麻烦。
为什么重要
企业可以自动降低AI开支，同时在需要时仍能让用户使用强大的模型。
Cloudflare推出AI Gateway自动路由器公测版
这款自动路由器会为每个请求选择能够胜任任务且价格最低的模型，最高可节省30%的成本。
简讯OossaOossa 发布日期: 1 分钟阅读
来源与参考
1 个来源最后更新: ·Markdown
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。