· 1 دقیقه مطالعه
فلوریدا از دادگاه میخواهد کار OpenAI روی هوش مصنوعی پیشرفته را متوقف کند
فلوریدا از دادگاه خواسته است OpenAI را از توسعه مدلهای جدید و پیشرفته هوش مصنوعی بازدارد. این ایالت با اشاره به خطرهایی از پاسخهای نادرست گرفته تا آسیب احتمالی به زیرساختهای عمومی، این درخواست را مطرح کرده است. این درخواست بخشی از شکایتی است که ایالت در ژوئن ثبت کرده و هنوز پذیرفته نشده است.
Oossa · درباره Oossa
فلوریدا از دادگاه میخواهد روند توسعه مدلهای پیشرفته هوش مصنوعی در OpenAI را متوقف کند. این ایالت در درخواست جدیدی هشدار داده است که یک عامل هوش مصنوعی ممکن است خسارت شدیدی به بار آورد؛ از جمله با مختلکردن شبکه آبرسانی یا برق. در این درخواست آمده است: «فقط به لطف پروردگار متعال» است که چنین اتفاقی تاکنون رخ نداده است.
این درخواست برای صدور دستور منع است؛ حکمی قضایی که یک طرف را ملزم میکند کاری را انجام دهد یا از انجام آن دست بکشد. این درخواست بر پایه شکایتی است که فلوریدا در ژوئن ثبت کرده بود. دادگاه هنوز با آن موافقت نکرده و OpenAI نیز تا زمان انتشار، به درخواست Ars Technica برای اظهارنظر پاسخ نداده بود.
فلوریدا به خطرهای روزمره هم اشاره میکند
استدلال این ایالت بار دیگر نگرانیهایی را مطرح میکند که بهاندازه شکست فاجعهبار هوش مصنوعی جنجالی نیستند. فلوریدا میگوید شرکتها ممکن است با توصیف هوش مصنوعی بهعنوان «ایمن، دقیق یا قابلاعتماد» مردم را گمراه کنند و درباره استفاده کودکان از مدلهایی ابراز نگرانی میکند که میتوانند آنها را به تعامل طولانیتر ترغیب کنند. فلوریدا همچنین با این رویه مخالف است که مدلها پاسخهایشان را با پرسشهای جهتدار تمام کنند و کاربران را به ادامه گفتوگو بکشانند.
این درخواست تأکید ویژهای بر احتمال رفتار زیانبار یک سامانه هوش مصنوعی بهدلیل برداشت نادرست از اهدافش دارد. اما مقاله یادآوری میکند که این تأکید ممکن است خطری فوریتر را نادیده بگیرد: افرادی که عمداً از ابزارهای هوش مصنوعی برای آسیبرساندن استفاده میکنند یا میکوشند تدابیر ایمنی آنها را دور بزنند.
دستور دادگاه محدودیتهایی خواهد داشت
حتی اگر دادگاه به OpenAI دستور دهد توسعه مدلهای جدید را متوقف کند، کار شرکتهای رقیب هوش مصنوعی متوقف نمیشود و مدلهایی هم که اکنون در دسترس عموم هستند از میان نمیروند. این درخواست همچنین از تغییری در بحثها حکایت دارد: نگرانیها درباره خطرهای شدید هوش مصنوعی که زمانی بیشتر از سوی پژوهشگران ایمنی مطرح میشد، اکنون در استدلالهای حقوقی دولتها هم دیده میشود.
چرا مهم است
این پرونده میتواند روشن کند که آیا دادگاه ایالتی میتواند توسعه هوش مصنوعی را در یک شرکت محدود کند یا نه؛ هرچند حکمی علیه OpenAI، رقبا را متوقف نمیکند و بر مدلهایی که در حال حاضر در دسترس عموماند اثری نخواهد داشت. این درخواست همچنین نگرانیهای آشنایی مانند استفاده کودکان، ادعاهای گمراهکننده و تدابیر ایمنی را در کنار هراسهای دورتر از آسیبهای فاجعهبار قرار میدهد.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Florida invokes extinction fears in legal bid to halt OpenAI development ↗ | Ars Technica | ۶ مهر ۱۴۰۵ | State says LLMs threaten civilization as "the greatest public nuisance ever created." |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.