Futurum Groups vd Daniel Newman skrev på X att AI-agenter nu använder fem gånger fler token än människor. Siffrorna kommer från ett diagram från Andreessen Horowitz (a16z) som följer användningen av OpenRouter. I augusti hade agenterna bearbetat 7,3 biljoner token, medan människor hade använt 1,4 biljoner. Newman säger att skillnaden kan växa till tio gånger eller mer.
Därför är det mesta av trafiken återanvänt
a16z noterar att över 85 % av tokenen som agenterna använder kommer från cachade promptar. Det innebär att agenterna till stor del läser om text de redan har sett, i stället för att skapa nytt innehåll. Cachen bidrar till snabbare svar, men blåser också upp antalet token.
Varför det spelar roll
För vanliga användare visar den kraftiga ökningen av agenternas tokenanvändning att AI-verktyg anropas upprepade gånger för samma information. Det kan göra dem snabbare, men döljer också hur mycket nytt innehåll de faktiskt skapar. Det tyder dessutom på att kostnader som baseras på tokenantal kan öka snabbare än antalet frågor från användarna, vilket kan påverka prissättningen för tjänster som tar betalt per token.
