Oossa

Google 为 Gemini Interactions API 推出工具检索预览版

开发者现在可以按需加载工具架构,降低使用大量函数的智能体的 token 用量和延迟。

简讯作者: Oossa 发布日期: 1 分钟阅读

Google 宣布,Gemini Interactions API 现已推出工具检索预览版。借助这项功能,智能体可以保留庞大的函数库,但只有在模型确实需要某个工具时,才发送该工具完整的参数架构。开发者只需添加 tool_search 条目,并将希望延迟加载的函数设为 defer_loading: true,即可启用此功能。模型仍能看到每个工具的名称和描述,因此可以先选出合适的工具,API 随后会在同一个请求中获取其架构。

为什么重要

这能降低成本并缩短响应时间,方便开发者构建集成数十种或数百种工具的智能体。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。