Oossa

TRACER提升大语言模型智能体的工具选择效率

新推出的TRACER前端让大语言模型能以更少的token、更高的准确率挑选工具;测试中,token用量减少了80%。

作者: Oossa 发布日期: 1 分钟阅读

Sincerely Media · Unsplash

研究人员发布了TRACER,这是一种检索系统,可帮助大语言模型智能体从大型工具库中选出合适的工具。该系统用字典树(一种树状索引)保存以往的工具调用序列,并结合数据驱动的线索和上下文信息,为可能的下一步工具排序。在实验中,TRACER让GPT‑5.4选对工具的概率提高了4.7个百分点,同时只展示128种工具中的5种,每步输入token用量减少约80%。

效果提升有多大?

在六种测试环境和四种语言模型中,TRACER在24组模型与环境的组合中,有21组优于展示完整工具库的方案。工具选择准确率平均提高6至10个百分点;表现较差的三组,差距均不超过2.2个百分点。在一次完整回合的自主运行测试中,TRACER在整体任务成功率上与GPT‑5.4持平,同时每步输入token用量减少61%。

这对用户意味着什么

对于开发需要调用外部服务的AI助手(例如查询库存或开通电信套餐)的开发者来说,TRACER可以减少发送给语言模型的token,从而让助手运行更快、成本更低。token数量减少,也能降低可用工具众多时触及模型上下文长度限制的可能性。

为什么重要

开发者可以构建响应更快、运行成本更低的智能助手,因为这类助手只需向语言模型发送更少的token。对终端用户来说,当AI需要查询价格、预约服务或从外部系统获取数据时,响应可能会更快。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。