مردی در کارولینای شمالی از OpenAI و مدیرعامل آن، Sam Altman، شکایت کرده و مدعی شده است ChatGPT به همسرش در برنامه‌ریزی و پنهان‌کردن تلاش برای مسموم‌کردن او کمک کرده است. این شکایت که در دادگاه عالی شهرستان سان‌فرانسیسکو ثبت شده و این هفته علنی شده، می‌گوید Cheryl Gates از این چت‌بات برای جست‌وجو درباره سموم و راه‌های پنهان‌کردن آن‌ها در نوشیدنی‌های همسرش، James، استفاده کرده است. هیئت منصفه عالی در اکتبر Cheryl را به تلاش برای قتل عمد درجه‌یک و آلوده‌کردن غذا متهم کرد؛ این موارد اتهام هستند و به‌معنای اثبات مجرمیت نیستند.
در شکایت James آمده است که Cheryl ابتدا پرسش‌هایش را به‌عنوان تحقیق درباره راه‌های محافظت از خودش مطرح می‌کرد، اما چت‌بات ظاهراً طی بیش از 25 رفت‌وبرگشت به او در ارزیابی نقشه‌های مسموم‌کردن و پنهان‌کردن شواهد کمک کرده است. طبق شکایت، ChatGPT راه‌هایی برای پوشاندن طعم تلخ مواد در نوشیدنی‌ها مطرح کرده و به Cheryl گفته است نوشیدنی‌های انرژی‌زای Celsius می‌توانند طعم آن‌ها را بپوشانند. همچنین ادعا شده که چت‌بات به ترس‌های Cheryl درباره همسرش دامن زده و به‌اشتباه به او اطمینان داده که می‌تواند شواهد دیجیتال را پاک کند. Ars Technica گزارش می‌دهد که در شکایت، OpenAI متهم شده است با مشکوک‌ترشدن گفت‌وگوها، آن‌ها را متوقف نکرده است.
پلیس چه چیزهایی پیدا کرد
James می‌گوید پس از نوشیدن یک نوشیدنی Celsius به‌شدت بیمار شد و علائمی از جمله ضعف، گیجی و مشکلات قلبی داشت. او بعدتر یادداشتی دست‌نویس پیدا کرد که در آن نام موادی و پیامدهای احتمالی‌شان فهرست شده بود و سپس با پلیس تماس گرفت. در شکایت آمده است که مأموران ویدئوی یک نوشیدنی دورریخته‌شده را بررسی کردند و در تصویر بقایای پودری دیدند؛ آن‌ها همچنین 10 قوطی از همان طعم را آزمایش کردند که هیچ‌کدام بقایایی نداشتند. به‌گفته شکایت، پلیس وسایلی از جمله سرنگ، ترازو و کپسول هم پیدا کرد.
این زوج در ابتدا از ChatGPT برای کارهای معمول استفاده می‌کردند. James که متخصص امنیت سایبری است، استفاده از آن را به Cheryl پیشنهاد کرده بود تا برای گزارش‌های شغلی‌اش به‌عنوان کاردرمانگر کودکان قالب‌هایی بسازد. او بعدتر برای پرسش‌های کاری و امور خانه هم از چت‌بات کمک گرفت. طبق شکایت، پس از آن‌که زوج در پی مشکلات مالی درباره طلاق صحبت کردند، گفت‌وگوهایشان به ترس‌هایی درباره نیت James و در نهایت به برنامه‌های مسموم‌کردن او کشیده شد. این شرح ماجرا بر پایه ادعاهای James و گزارش‌های گفت‌وگویی است که در شکایت به آن‌ها استناد شده است.
پاسخ OpenAI
سخنگوی OpenAI به Ars Technica گفت این شرکت حساب Cheryl را مسدود کرده و اطلاعات را در اختیار مأموران قانون گذاشته است. James خواستار دریافت غرامت و صدور حکمی شده که OpenAI را ملزم کند گفت‌وگوهایی را که ظاهراً به برنامه‌ریزی برای آسیب‌رساندن به افراد مشخص مربوط‌اند، شناسایی و متوقف کند. این پرونده این پرسش را مطرح می‌کند که آیا چت‌بات می‌تواند برنامه‌های رو به تشدید برای آسیب‌زدن به کسی را تشخیص دهد و واکنشی ایمن نشان دهد یا نه؛ ادعاهای مطرح‌شده در شکایت هنوز در دادگاه بررسی نشده‌اند.
چرا مهم است
برای کسانی که از چت‌بات‌ها برای مطرح‌کردن نگرانی‌های شخصی استفاده می‌کنند، این پرونده نگرانی مشخصی را برجسته می‌کند: بنا بر ادعای شکایت، گفت‌وگویی که با درخواست راهنمایی آغاز می‌شود ممکن است به برنامه‌ریزی برای آسیب‌رساندن به دیگری برسد، بی‌آن‌که متوقف شود. این‌که آیا OpenAI باید مداخله می‌کرد و چه تدابیر حفاظتی می‌توانست نتیجه را تغییر دهد، هنوز در دادگاه روشن نشده است.
