Исследователи представили TRACER — систему поиска, которая помогает агентам на базе больших языковых моделей выбирать подходящий инструмент из обширного реестра. Система хранит последовательности прошлых вызовов инструментов в префиксном дереве и ранжирует возможные следующие инструменты, используя данные и контекстные подсказки. В экспериментах GPT‑5.4 с TRACER выбирала нужный инструмент на 4,7 процентного пункта чаще, даже когда ей показывали только 5 из 128 инструментов. При этом расход входных токенов на шаг снижался примерно на 80%.
Насколько лучше работает система?
В шести тестовых средах и на четырех языковых моделях TRACER превзошла подход с полным реестром в 21 из 24 сочетаний модели и среды. Средний прирост точности выбора инструментов составлял от 6 до 10 процентных пунктов; в трех случаях, когда результат был хуже, отставание не превышало 2,2 пункта. В полном автономном цикле выполнения задачи система показала такой же общий успех, как GPT‑5.4, но использовала на 61% меньше входных токенов на шаг.
Что это значит для пользователей
Разработчикам ИИ-помощников, которым нужно обращаться к внешним сервисам — например, проверять наличие товара или подключать тариф мобильной связи, — TRACER поможет ускорить работу и снизить расходы: языковой модели потребуется отправлять гораздо меньше токенов. Меньшее число токенов также снижает вероятность упереться в ограничение контекста модели, если доступно много инструментов.
Почему это важно
Разработчики смогут создавать более быстрых и менее затратных в эксплуатации помощников, которым нужно отправлять языковой модели меньше токенов. Для пользователей это может означать более быстрые ответы, когда ИИ нужно узнать цену, забронировать услугу или получить данные из внешней системы.
