جیمز اوتمایر، دادستان کل فلوریدا، از قاضی میخواهد OpenAI را از دادن آنچه او «ویژگیهای انسانیِ کاذب» به ChatGPT میخواند، منع کند. در این درخواست آمده است که استفاده چتبات از زبان اولشخص و پاسخهایی که شبیه بروز احساساتاند، ممکن است باعث شود مردم آن را دوستی قابلاعتماد بدانند و به اتکای بیشتری به آن ترغیب شوند.
اوتمایر میگوید این ویژگیها به حفظ تعامل کاربران کمک میکنند و در تهیه دادههای آموزشی OpenAI نقش دارند. اینها ادعاهای مطرحشده در درخواست ایالت هستند، نه یافتههای دادگاه. فلوریدا چند ماه پیش بهدلیل نگرانیهای ایمنی از OpenAI شکایت کرد.
فلوریدا چه میخواهد؟
در این درخواست از دادگاه خواسته شده OpenAI را از معرفی ChatGPT بهعنوان یک انسان منع کند و اجازه ندهد این شرکت بدون «تدابیر ایمنیِ تأییدشده از سوی نهادهای مستقل» مدلهای هوش مصنوعی جدید بسازد. اوتمایر به رویدادهای امنیتی مرتبط با Hugging Face، یک وبسایت دولتی استرالیا و وبسایتهای دولتی آمریکا، و نیز هشدارهای پژوهشگران و کارکنان پیشین OpenAI اشاره میکند. در درخواست جزئیاتی درباره این رویدادها یا نحوه اجرای تدابیر ایمنی پیشنهادی ارائه نشده است.
اوتمایر همچنین از رویکرد OpenAI در قبال کاربران کمسنوسال انتقاد کرد و گفت: «فروش آن به بچهها را متوقف کنید.» ماه گذشته، OpenAI سرویس ChatGPT for Teens را با محدودیتهای اضافیِ فعال بهصورت پیشفرض راهاندازی کرد. این شرکت گفت هدف این محصول محافظت از نوجوانان، پشتیبانی از روابط آنها در دنیای واقعی و تشویق به استفاده سالم در گذر زمان است.
OpenAI میگوید تدابیر ایمنی را افزایش میدهد
درو پوساتری، سخنگوی OpenAI، گفت این شرکت روز جمعه آموزش تواناترین مدلهایش را متوقف کرده و تنها زمانی آن را از سر میگیرد که از برقرار بودن تدابیر ایمنیِ بیشتر اطمینان حاصل کند. او همچنین گفت دولتها باید استانداردهای ایمنیای تعیین کنند که در سراسر صنعت هوش مصنوعی اجرا شود و OpenAI آماده همکاری با فلوریدا و دیگر ایالتهاست.
درخواست از قاضی میخواهد محدودیتهایی اعمال کند؛ این به معنای آن نیست که محدودیتها اکنون اجرایی شدهاند. این اختلاف پرسشهایی را درباره نحوه معرفی خود از سوی چتباتها و بررسیهای ایمنیِ لازم پیش از ساخت سامانههای قدرتمندتر مطرح میکند.
چرا مهم است
این پرونده میتواند بر میزان استفاده چتباتها از زبان انسانگونه و بررسیهای ایمنیای که شرکتها باید پیش از آموزش مدلهای جدید ارائه کنند، اثر بگذارد. نکته فوری برای کاربران این است که فلوریدا خواستار اعمال تغییراتی شده، نه اینکه از اجرایی شدن مقرراتی خبر داده باشد؛ دادگاه هنوز حکمی صادر نکرده است.