Anthropic پیش‌نویس قانونی را در اختیار قانون‌گذاران گذاشته که از کنگره می‌خواهد به وزارت بازرگانی آمریکا اختیار دهد در صورت شناسایی «خطر فاجعه‌بار قریب‌الوقوع»، توزیع یک مدل هوش مصنوعی را متوقف کند. این لایحه چنین خطری را خطری تعریف می‌کند که ممکن است جان بیش از 50 نفر را بگیرد یا بیش از یک میلیارد دلار خسارت مالی به بار آورد. خطر باید ناشی از یک سلاح زیستی، خارج‌شدن مدل از کنترل یا یک حمله سایبری باشد.
این لایحه چگونه اجرا می‌شود؟
این پیشنهاد خواستار ارزیابی خطر مدل‌ها از سوی «ارزیابان مستقل» ثبت‌شده در وزارت بازرگانی است. آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه ارزیابان را بپردازند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد. اگر ارزیابی خطر را تشخیص دهد، ارزیاب 72 ساعت فرصت دارد وزارت بازرگانی را مطلع کند. وزارتخانه نیز باید از قاضی‌ای در واشنگتن دی‌سی بخواهد دستور توقف انتشار مدل را صادر کند. این لایحه هرگونه اقدام یک‌جانبه نهادهای فدرال برای متوقف‌کردن یک مدل را ممنوع می‌کند.
واکنش صنعت
Anthropic می‌گوید این لایحه بازتاب «چارچوب هوش مصنوعی پیشرفته» این شرکت است؛ چارچوبی که از ماه ژوئن در میان قانون‌گذاران ترویج کرده است. این شرکت توضیح بیشتری نداده است. دیگر شرکت‌های هوش مصنوعی خواهان استفاده از ناظران داخلیِ داوطلبانه به‌جای نظارت اجباری شده‌اند و مدیرعامل Nvidia گفته است این صنعت به قانون تازه‌ای نیاز ندارد.
چرا مهم است
در صورت تصویب، این لایحه می‌تواند جلوی انتشار سامانه‌های هوش مصنوعیِ دارای خطرهای جدی ایمنی را بگیرد و پشتوانه‌ای قانونی برای محافظت مردم در برابر آسیب‌های فاجعه‌بار فراهم کند. برای توسعه‌دهندگان، پیش از عرضه مدل‌های قدرتمند یک مرحله تازه انطباق با مقررات اضافه می‌شود. هنوز روشن نیست ارزیابی‌ها تا چه حد مستقل خواهند بود یا دادگاه‌ها در عمل با چه سرعتی می‌توانند اقدام کنند.
