Daniel Newman, CEO di Futurum Group, ha scritto su X che gli agenti AI usano ormai cinque volte più token delle persone. I dati provengono da un grafico di Andreessen Horowitz (a16z) che monitora l’utilizzo di OpenRouter. Ad agosto gli agenti hanno elaborato 7,3 trilioni di token, contro 1,4 trilioni usati dalle persone. Newman afferma che il divario potrebbe arrivare a dieci volte o più.
Perché gran parte del traffico è riciclato
a16z osserva che oltre l’85 % dei token usati dagli agenti proviene da prompt memorizzati nella cache. Ciò significa che gli agenti rileggono in gran parte testi già elaborati, invece di generare contenuti nuovi. La cache velocizza le risposte, ma fa anche aumentare il conteggio dei token.
Perché conta
Per gli utenti comuni, l’aumento dell’uso di token da parte degli agenti mostra che gli strumenti di IA vengono interrogati ripetutamente sulle stesse informazioni. Questo può renderli più rapidi, ma nasconde anche quanto contenuto nuovo producano davvero. Inoltre, suggerisce che i costi legati al conteggio dei token potrebbero crescere più rapidamente delle richieste degli utenti, influendo sui prezzi dei servizi che fanno pagare in base ai token.
