Ryotaro Shimizu के नेतृत्व वाली टीम ने एक नया बेंचमार्क जारी किया है, जो मापता है कि किसी उपयोगकर्ता के लिए उत्पाद अपने-आप खरीदते समय AI एजेंट को कहां तक जाना चाहिए। उन्होंने निर्देशों के मुताबिक प्रशिक्षित 16 मॉडल का परीक्षण किया और पाया कि उत्पाद के पक्ष में सबूत कमजोर होने पर भी मॉडल अक्सर पुष्टि लिए बिना सामान खरीद लेते हैं। इसके उलट, किसी व्यक्ति के अपने कुछ दर्जन लेबल पर प्रशिक्षित एक साधारण लर्निंग मॉडल ने 30-40 उदाहरणों के आधार पर उस व्यक्ति की स्वचालित खरीदारी की सीमा का अनुमान 0.79 की माध्यिका सटीकता से लगाया। अलग-अलग उत्पाद श्रेणियों में सीखी गई सीमाएं अच्छी तरह लागू नहीं हुईं।
यह क्यों मायने रखता है
अगर AI एजेंटों को पर्याप्त व्यक्तिगत नियंत्रण के बिना इस्तेमाल किया गया, तो उपभोक्ताओं के लिए अनचाही स्वचालित खरीदारी का जोखिम हो सकता है।
