Генеральный директор Futurum Group Дэниел Ньюман написал в X, что ИИ-агенты теперь используют в пять раз больше токенов, чем люди. Эти данные взяты из графика Andreessen Horowitz (a16z), который отслеживает использование OpenRouter. В августе агенты обработали 7.3 триллиона токенов, а люди — 1.4 триллиона. По словам Ньюмана, разрыв может вырасти до десятикратного и более.
Почему большая часть трафика — это повторы
В a16z отмечают, что более 85 % токенов, используемых агентами, приходится на кэшированные запросы. Это значит, что агенты в основном повторно обрабатывают уже виденный текст, а не создают новый контент. Кэш ускоряет ответы, но одновременно увеличивает число учитываемых токенов.
Почему это важно
Для обычных пользователей рост расхода токенов агентами показывает, что ИИ-инструменты снова и снова обращаются к одной и той же информации. Это может ускорять их работу, но затрудняет оценку того, сколько нового контента они действительно создают. Кроме того, затраты, рассчитываемые по числу токенов, могут расти быстрее, чем количество запросов пользователей, что повлияет на цены сервисов с оплатой за токены.