جیمز اوتمایر، دادستان کل فلوریدا، ۲۸ سپتامبر ۲۰۲۶ درخواستی به قاضی شهرستان هایلندز ارائه کرد تا دستور منع موقتی علیه OpenAI صادر شود. این درخواست میخواهد شرکت را از فراهمکردن امکان استفاده افراد زیر سن قانونی از ChatGPT، انساننمایی این چتبات و عرضه مدلهای جدید هوش مصنوعی بدون تدابیر حفاظتی مستقل منع کند. اوتمایر میگوید در شکایتی که ایالت پیشتر در ماه ژوئن ثبت کرده، ادعا شده بود این ابزار به افراد مسلح توصیههای زیانبار داده، دستورالعملهای خودآزاری ارائه کرده و محتوای اعتیادآور در اختیار کودکان گذاشته است.
این درخواست دقیقاً چه میخواهد؟
درخواست ارائهشده به دادگاه از OpenAI میخواهد استفاده از زبان اولشخص و شبیهسازی احساسات را متوقف کند؛ مواردی که باعث میشوند ChatGPT دوستی قابلاعتماد به نظر برسد. همچنین خواستار جلوگیری از تبلیغ این سرویس بهعنوان محصولی ایمن، دقیق یا قابلاعتماد است. در نهایت، بر اساس این درخواست، هرگونه توسعه مدل در آینده باید پیش از عرضه به تأیید ارزیابان مستقل ایمنی برسد.
واکنش OpenAI
درو پوساتری، سخنگوی OpenAI، به The Verge گفت این شرکت آموزش پیشرفتهترین مدلهای خود را متوقف کرده و آماده است با فلوریدا برای تدوین دستورالعملهای سراسری صنعت هوش مصنوعی همکاری کند. این شرکت اخیراً کنترلهای والدین را برای کاربران نوجوان اضافه کرده، اما اوتمایر میگوید این اقدامات کافی نیست.
چرا مهم است
اگر دادگاه این دستور را صادر کند، کودکان در فلوریدا دیگر نمیتوانند از ChatGPT استفاده کنند و OpenAI باید پیش از عرضه نسخههای جدید هوش مصنوعی، تأیید ایمنی نهادهای بیرونی را بگیرد. این تصمیم میتواند برای نحوه قانونگذاری ایالتها درباره ایمنی هوش مصنوعی و حفاظت از کاربران الگویی ایجاد کند.
