Le PDG de Futurum Group, Daniel Newman, a publié sur X que les agents IA utilisent désormais cinq fois plus de tokens que les humains. Ces chiffres proviennent d’un graphique d’Andreessen Horowitz (a16z) qui suit l’utilisation d’OpenRouter. En août, les agents avaient traité 7,3 billions de tokens, contre 1,4 billion pour les humains. Selon Newman, l’écart pourrait atteindre dix fois ce niveau, voire davantage.
Pourquoi la majeure partie du trafic est recyclée
a16z indique que plus de 85 % des tokens utilisés par les agents proviennent de requêtes mises en cache. Autrement dit, les agents relisent en grande partie du texte qu’ils ont déjà vu, au lieu de générer du nouveau contenu. Le cache accélère les réponses, mais gonfle aussi le nombre de tokens.
Pourquoi c'est important
Pour les utilisateurs au quotidien, la forte hausse de l’utilisation des tokens par les agents montre que les outils d’IA sont sollicités à répétition pour obtenir les mêmes informations. Cela peut accélérer leurs réponses, mais masque aussi la quantité de contenu réellement nouveau qu’ils produisent. Cela laisse également penser que les coûts liés au nombre de tokens pourraient augmenter plus vite que le nombre de requêtes des utilisateurs, ce qui pourrait influer sur les tarifs des services facturant à l’usage.
