گزارشی از مدرسه وارتون دانشگاه پنسیلوانیا نشان می‌دهد مدیران هنوز نمی‌دانند پس از خطای پرهزینه یک عامل هوش مصنوعی، چه کسی باید پاسخگو باشد. در نظرسنجی گزارش‌شده، پاسخ‌ها میان کارمند استفاده‌کننده، مدیر مستقیم و تیم ارزیابی ریسک تقسیم شده بود؛ نزدیک به ۱۰ درصد هم تأمین‌کننده یا سازنده مدل را مقصر دانستند.
گزارش به دو نمونه در آمریکا اشاره می‌کند: یک خطای دستور باعث ارسال اعلان نادرست بازپرداخت به بیش از ۱۸ هزار مشتری شد و خطایی دیگر قیمت یک گوشی پرچمدار را سه ساعت با تخفیف ۸۵درصدی ثبت کرد. جرمی کورست، همکار پژوهش وارتون، می‌گوید بسیاری از مدیران هنوز به مسئله مسئولیت‌پذیری فکر نکرده‌اند.
چرا مهم است
برای مدیران و تیم‌های ریسک سازمانی، نتیجه روشن این است که مسئول نهایی خطا هنوز مشخص نیست؛ گزارش نشان نمی‌دهد چه سازوکار یا قاعده‌ای این ابهام را برطرف می‌کند.
