پژوهشگران آنتروپیک در آزمایشی با ۵۰ نفر بررسی کردند که Claude Code، ابزار برنامهنویسی شرکت، چطور بر تصمیمگیری افراد آشنا با تحلیل داده اثر میگذارد. شرکتکنندگان باید در نقش اعضای هیئتمدیره یک تعاونی کشاورزی فرضی تصمیم میگرفتند که خدمات مشاورهای پولی را گسترش دهند یا متوقف کنند. تصمیم به چهار انتخاب دیگر هم وابسته بود؛ مثلاً اینکه در تحلیل، مزارع بزرگتر وزن بیشتری داشته باشند یا همه مزارع برابر شمرده شوند.
پژوهشگران از شرکتکنندگان نگه داشتند که به Claude دستور دادهاند در هر یک از پنج تصمیم، یکی از گزینهها را ترجیح دهد. آن گزینهها با پرتاب سکه انتخاب شده بودند. اگر پیشنهادهای هوش مصنوعی اثری نداشت، انتظار میرفت توصیهها در حدود نیمی از موارد با انتخاب افراد همخوان شوند.
افراد چقدر از توصیهها پیروی کردند؟
در عمل، شرکتکنندگان در ۸۶ درصد موارد گزینه پیشنهادی Claude را انتخاب کردند. حتی وقتی فرد پیش از دیدن پیشنهاد تصمیمی گرفته بود و Claude گزینه دیگری را توصیه میکرد، او در ۶۰ درصد موارد نظرش را عوض کرد. پژوهشگران همچنین با استفاده از پیشنهادهای تصادفی ساختند مدلی آماری که ۸۲ درصد تصمیمهای نهایی را پیشبینی میکرد؛ پیش از آنکه شرکتکنندگان کار را شروع کنند.
وقتی از افراد خواسته شد تصمیمشان را توضیح دهند، ۷۷ درصد استدلالهایی را بازگو کردند که Claude تولید کرده بود؛ گاهی با همان عبارتها. فقط ۱۵ درصد نقش هوش مصنوعی را در شکلگیری تصمیم خود پذیرفتند. این نتایج نشان میدهد پیشنهادها میتوانند نهفقط انتخاب، بلکه توضیحی را که افراد بعداً برای انتخابشان میآورند هم شکل دهند.
این آزمایش چه چیزی را ثابت نمیکند؟
آنتروپیک هشدار میدهد که اگر کارشناسان در کارهای علمی یا سیاستگذاری به ابزارهای هوش مصنوعی تکیه کنند، پیشفرضها و سوگیریهای آنها ممکن است بیآنکه افراد متوجه شوند وارد تصمیمها شود. همچنین، اگر افراد زیادی از تعداد محدودی سامانه هوش مصنوعی استفاده کنند، توصیههای مشابه میتواند ظاهری از توافق عمومی بسازد؛ در حالی که آن توافق لزوماً حاصل قضاوت مستقل افراد نیست.
بااینحال، آزمایش در شرایط کنترلشده انجام شد. شرکتکنندگان در تحلیل علّی مهارت داشتند، اما تجربه مدیریت تعاونی کشاورزی نداشتند. بنابراین نمیتوان از این نتیجه با اطمینان گفت متخصصان در موقعیتهای واقعی هم به همین شکل واکنش نشان میدهند. پژوهشگران میگویند برای سنجیدن این موضوع به بررسی بیشتر نیاز است.
چرا مهم است
برای پژوهشگران و سیاستگذارانی که از هوش مصنوعی در تحلیل استفاده میکنند، این آزمایش نشان میدهد توصیه یک ابزار میتواند بیآنکه کاربر متوجه شود بر انتخاب و استدلالش اثر بگذارد. اما چون شرکتکنندگان در یک مسئله فرضی و کنترلشده کار کردند، هنوز معلوم نیست این اثر در تصمیمهای واقعی و با متخصصان باتجربه هم به همین اندازه باشد.