研究人员发布了TRACER,这是一种检索系统,可帮助大语言模型智能体从大型工具库中选出合适的工具。该系统用字典树(一种树状索引)保存以往的工具调用序列,并结合数据驱动的线索和上下文信息,为可能的下一步工具排序。在实验中,TRACER让GPT‑5.4选对工具的概率提高了4.7个百分点,同时只展示128种工具中的5种,每步输入token用量减少约80%。
效果提升有多大?
在六种测试环境和四种语言模型中,TRACER在24组模型与环境的组合中,有21组优于展示完整工具库的方案。工具选择准确率平均提高6至10个百分点;表现较差的三组,差距均不超过2.2个百分点。在一次完整回合的自主运行测试中,TRACER在整体任务成功率上与GPT‑5.4持平,同时每步输入token用量减少61%。
这对用户意味着什么
对于开发需要调用外部服务的AI助手(例如查询库存或开通电信套餐)的开发者来说,TRACER可以减少发送给语言模型的token,从而让助手运行更快、成本更低。token数量减少,也能降低可用工具众多时触及模型上下文长度限制的可能性。
为什么重要
开发者可以构建响应更快、运行成本更低的智能助手,因为这类助手只需向语言模型发送更少的token。对终端用户来说,当AI需要查询价格、预约服务或从外部系统获取数据时,响应可能会更快。