Oossa

Los agentes de IA consumen cinco veces más tokens que las personas

Futurum Group afirma que los agentes de IA usaron 7,3 billones de tokens en agosto, cinco veces más que las personas, y que la mayoría procede de instrucciones almacenadas en caché.

OossaPublicado por Oossa: 1 min de lectura

Markus Spiske · Unsplash

El director ejecutivo de Futurum Group, Daniel Newman, publicó en X que los agentes de IA ya usan cinco veces más tokens que las personas. Las cifras proceden de un gráfico de Andreessen Horowitz (a16z) que registra el uso de OpenRouter. En agosto, los agentes procesaron 7,3 billones de tokens, frente a los 1,4 billones de las personas. Newman afirma que la diferencia podría llegar a ser de diez veces o más.

Por qué se reutiliza la mayor parte del tráfico

a16z señala que más del 85 % de los tokens que usan los agentes proceden de instrucciones almacenadas en caché. Esto significa que, en gran medida, los agentes vuelven a leer textos que ya habían procesado, en lugar de generar contenido nuevo. La caché ayuda a acelerar las respuestas, pero también infla el recuento de tokens.

Por qué importa

Para los usuarios de a pie, el aumento del uso de tokens por parte de los agentes muestra que se recurre repetidamente a las herramientas de IA para obtener la misma información. Esto puede acelerar las respuestas, pero también oculta cuánto contenido nuevo generan realmente. Además, sugiere que los costos asociados al recuento de tokens podrían crecer más rápido que las consultas de los usuarios, lo que afectaría a los precios de los servicios que cobran por token.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.