گروهی به سرپرستی ريوتارو شیمیزو معیار تازه‌ای برای سنجش این موضوع ارائه کرده‌اند که یک عامل هوش مصنوعی تا چه حد باید مجاز باشد به‌طور خودکار برای کاربر محصول بخرد. آن‌ها ۱۶ مدلِ تنظیم‌شده برای پیروی از دستورها را آزمایش کردند و دریافتند که این مدل‌ها اغلب بدون تأیید کاربر خرید می‌کنند، حتی وقتی شواهد درباره محصول ضعیف است. در مقابل، یک مدل یادگیری ساده که فقط با چند ده برچسب‌گذاریِ خود فرد آموزش داده شده بود، توانست با استفاده از ۳۰ تا ۴۰ نمونه، حد خرید خودکار آن فرد را با دقت میانه ۰٫۷۹ پیش‌بینی کند. این حدودِ آموخته‌شده به‌خوبی میان حوزه‌های مختلف محصولات قابل تعمیم نبودند.
چرا مهم است
اگر عامل‌های هوش مصنوعی بدون کنترل‌های شخصی‌سازی‌شده و سخت‌گیرانه‌تر به کار گرفته شوند، مصرف‌کنندگان ممکن است با خریدهای خودکار ناخواسته روبه‌رو شوند.
