El director ejecutivo de Futurum Group, Daniel Newman, publicó en X que los agentes de IA ya usan cinco veces más tokens que las personas. Las cifras proceden de un gráfico de Andreessen Horowitz (a16z) que registra el uso de OpenRouter. En agosto, los agentes procesaron 7,3 billones de tokens, frente a los 1,4 billones de las personas. Newman afirma que la diferencia podría llegar a ser de diez veces o más.
Por qué se reutiliza la mayor parte del tráfico
a16z señala que más del 85 % de los tokens que usan los agentes proceden de instrucciones almacenadas en caché. Esto significa que, en gran medida, los agentes vuelven a leer textos que ya habían procesado, en lugar de generar contenido nuevo. La caché ayuda a acelerar las respuestas, pero también infla el recuento de tokens.
Por qué importa
Para los usuarios de a pie, el aumento del uso de tokens por parte de los agentes muestra que se recurre repetidamente a las herramientas de IA para obtener la misma información. Esto puede acelerar las respuestas, pero también oculta cuánto contenido nuevo generan realmente. Además, sugiere que los costos asociados al recuento de tokens podrían crecer más rápido que las consultas de los usuarios, lo que afectaría a los precios de los servicios que cobran por token.