Microsoft Research и Калифорнийский университет в Беркли выпустили TokenEconomizer — плагин с открытым исходным кодом, который призван снизить расход токенов ИИ-агентами для программирования. По данным MarkTechPost, плагин обучается на предыдущих сессиях и сократил затраты на токены на 18,4–30,9% в SWE-Bench. Исследователи утверждают, что для работы плагина не нужно менять самого агента.
Токены — это фрагменты текста, которые обрабатывает система ИИ. Снижение их числа может уменьшить объём использования модели агентом, однако указанные проценты относятся к затратам на токены, а не к конкретной сумме в деньгах. Кроме того, это не значит, что каждый пользователь получит такую же экономию: результат связан с SWE-Bench, а доступные сведения не уточняют, как снижение расходов различалось в зависимости от задач и конфигурации агента.
Главная идея, описанная авторами, — обучение плагина на предыдущих сессиях. Вместо того чтобы требовать другого агента для программирования, TokenEconomizer представлен как дополнение, которое использует историю сессий для более эффективного расхода токенов. Это может быть важно для команд, которые регулярно запускают таких агентов, однако в описании не говорится, какую информацию плагин хранит, как решает, что использовать повторно, и могут ли пользователи управлять этими решениями.
Что пока неизвестно
Указанный диапазон выглядит многообещающе как показатель потенциальной экономии токенов, но для её оценки не хватает подробностей. MarkTechPost не называет протестированную модель или агента, параметры бенчмарка, число запусков и методы экономии токенов, с которыми сравнивали плагин. Также не сообщается, проверялся ли результат независимыми специалистами. Без этих сведений проценты следует воспринимать как заявленный результат на одном бенчмарке, а не как гарантию для других задач программирования.
TokenEconomizer описывается как продукт с открытым исходным кодом, однако в кратком изложении анонса не указаны репозиторий, лицензия, поддерживаемые агенты и требования к установке. Эти сведения помогли бы разработчикам понять, насколько легко попробовать плагин и подходит ли он для их инструментов. Пока подтверждено лишь следующее: Microsoft Research и UC Berkeley выпустили плагин, который, по их словам, снижает затраты на токены у агентов для программирования в SWE-Bench и не требует менять самих агентов.
Почему это важно
Для разработчиков, регулярно использующих ИИ-агентов для программирования, снижение расхода токенов может уменьшить затраты, если аналогичная экономия будет достигнута и на их задачах. Однако заявленный результат относится только к SWE-Bench, а доступных сведений недостаточно, чтобы судить об экономии в реальных условиях, суммах в деньгах или совместимости плагина с конкретными агентами.
