Futurum Group के CEO Daniel Newman ने X पर लिखा कि AI एजेंट अब इंसानों से पांच गुना ज्यादा टोकन इस्तेमाल कर रहे हैं। ये आंकड़े Andreessen Horowitz (a16z) के उस चार्ट से लिए गए हैं, जो OpenRouter के इस्तेमाल पर नज़र रखता है। अगस्त तक एजेंट 7.3 ट्रिलियन टोकन प्रोसेस कर चुके थे, जबकि इंसानों ने 1.4 ट्रिलियन टोकन इस्तेमाल किए थे। Newman का कहना है कि यह अंतर बढ़कर दस गुना या उससे ज्यादा हो सकता है।
ज्यादातर ट्रैफिक दोबारा इस्तेमाल किए गए डेटा का है
a16z के मुताबिक, एजेंटों द्वारा इस्तेमाल किए गए 85 % से ज्यादा टोकन कैश किए गए प्रॉम्प्ट से आते हैं। इसका मतलब है कि एजेंट नया कंटेंट बनाने के बजाय मुख्य रूप से उस टेक्स्ट को फिर से पढ़ रहे हैं, जिसे वे पहले देख चुके हैं। कैश से जवाब तेज़ी से मिलते हैं, लेकिन इससे टोकन की गिनती भी बढ़ जाती है।
यह क्यों मायने रखता है
आम उपयोगकर्ताओं के लिए, एजेंटों द्वारा टोकन के बढ़ते इस्तेमाल से पता चलता है कि AI टूल्स से एक ही जानकारी बार-बार मांगी जा रही है। इससे जवाब तेज़ मिल सकते हैं, लेकिन यह समझना मुश्किल हो जाता है कि वे वास्तव में कितना नया कंटेंट बना रहे हैं। इससे यह संकेत भी मिलता है कि टोकन की गिनती पर आधारित लागत, उपयोगकर्ताओं की क्वेरी से तेज़ी से बढ़ सकती है और प्रति टोकन शुल्क लेने वाली सेवाओं की कीमतों पर असर डाल सकती है।
