· 1 دقیقه مطالعه
فلوریدا از دادگاه میخواهد نحوه معرفی ChatGPT را محدود کند
جیمز اوتمایر، دادستان کل فلوریدا، از قاضی میخواهد OpenAI را از انسانوار جلوهدادن ChatGPT بازدارد و این شرکت را ملزم کند پیش از ساخت مدلهای جدید، تدابیر ایمنی تأییدشده از سوی نهادهای مستقل را به کار بگیرد. این درخواست بخشی از شکایت فلوریدا علیه OpenAI است؛ در گزارش اشارهای به صدور حکم نشده است.
Oossa · درباره Oossa
جیمز اوتمایر، دادستان کل فلوریدا، از قاضی میخواهد OpenAI را از نسبتدادن آنچه او «ویژگیهای انسانیِ کاذب» میخواند به ChatGPT بازدارد. در درخواست او آمده است که استفاده این چتبات از زبان اولشخص و پاسخهایی شبیه ابراز احساسات ممکن است باعث شود مردم آن را دوستی قابلاعتماد بدانند و به آن تکیه کنند.
اوتمایر میگوید این ویژگیها باعث میشوند کاربران بیشتر با ChatGPT درگیر بمانند و به دادههای آموزشی OpenAI کمک کنند. اینها ادعاهایی هستند که در درخواست ایالت مطرح شدهاند، نه یافتههای دادگاه. فلوریدا چند ماه پیش بهدلیل نگرانیهای ایمنی از OpenAI شکایت کرد.
خواسته فلوریدا چیست
در این درخواست از دادگاه خواسته شده OpenAI را از معرفی ChatGPT بهعنوان یک انسان بازدارد و شرکت را از توسعه مدلهای جدید هوش مصنوعی بدون «ضوابط ایمنی تأییدشده از سوی شخص ثالث» منع کند. اوتمایر به رخدادهای امنیتی مرتبط با Hugging Face، یک وبسایت دولتی استرالیا و وبسایتهای دولتی آمریکا، و همچنین هشدارهای پژوهشگران و کارکنان پیشین OpenAI اشاره میکند. منبع درباره این رخدادها جزئیات بیشتری نمیدهد و توضیح نمیدهد ضوابط پیشنهادی چگونه اجرا خواهند شد.
اوتمایر همچنین از رویکرد OpenAI در قبال کاربران جوان انتقاد کرد و گفت: «دیگر آن را به بچهها نفروشید.» OpenAI ماه گذشته ChatGPT for Teens را عرضه کرد که محدودیتهای بیشتری در آن بهطور پیشفرض فعال است. این شرکت گفت محصول باید از نوجوانان محافظت کند، از روابط واقعی آنها پشتیبانی کند و در گذر زمان استفاده سالم را تشویق کند.
OpenAI میگوید در حال افزودن تدابیر ایمنی است
درو پوساتری، سخنگوی OpenAI، گفت این شرکت روز جمعه آموزش توانمندترین مدلهایش را متوقف کرده و تنها زمانی آن را از سر میگیرد که از برقرار بودن تدابیر ایمنی بیشتر اطمینان پیدا کند. او همچنین گفت دولتها باید استانداردهای ایمنیای تعیین کنند که در سراسر صنعت هوش مصنوعی اجرا شوند و OpenAI آماده همکاری با فلوریدا و ایالتهای دیگر است.
در این درخواست از قاضی خواسته شده محدودیتهایی اعمال کند؛ اما این به معنای اجراییشدن آن محدودیتها نیست. این اختلاف پرسشهایی را درباره نحوه معرفی چتباتها و بررسیهای ایمنیِ لازم پیش از ساخت سامانههای قدرتمندتر مطرح میکند.
چرا مهم است
این پرونده میتواند بر میزان استفاده آشکار چتباتها از زبان انسانوار و بررسیهای ایمنیای که شرکتها باید پیش از آموزش مدلهای جدید ارائه کنند اثر بگذارد. نکته فوری برای کاربران این است که فلوریدا خواستار تغییراتی شده، نه اینکه مقرراتی را اعلام کرده باشد که هماکنون اجرا میشوند؛ گزارش واکنش دادگاه را مطرح نمیکند.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Florida seeks a ban on ChatGPT acting like a person ↗ | The Verge | ۶ مهر ۱۴۰۵ | Florida Attorney General James Uthmeier is calling for a judge to block OpenAI from "giving ChatGPT false human attributes," a few months af |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.