به‌گزارش پولیتیکو و به نقل از سه فرد آگاه، نمایندگان آنتروپیک در دیدارهایی که علنی نشده بود، پیش‌نویس قانونی درباره ایمنی مدل‌های پیشرفته هوش مصنوعی را به قانون‌گذاران کنگره آمریکا ارائه کرده‌اند. این طرح هنوز پیش‌نویس است و جزئیات آن از طریق گزارش رسانه‌ای منتشر شده، نه متن یک قانون تصویب‌شده.
طبق گزارش، دولت فقط زمانی می‌تواند برای توقف انتشار یا استفاده از یک مدل اقدام کند که خطر آن قابل‌پیش‌بینی و قریب‌الوقوع باشد و به خسارتی بیش از یک میلیارد دلار، یا به خطر افتادن جان بیش از ۵۰ نفر همراه با جراحات شدید منجر شود. خطر باید مشخصاً به ساخت سلاح زیستی، خارج‌شدن مدل از کنترل‌های توسعه‌دهنده یا حمله سایبری مربوط باشد.
ارزیابی مستقل و نقش دادگاه
پیش‌نویس، ارزیابی دوره‌ای مدل‌ها و آزمایشگاه‌های پیشرفته را به ارزیاب‌های مستقلی می‌سپارد که در وزارت بازرگانی آمریکا ثبت‌نام کرده‌اند. شرکت‌ها می‌توانند هزینه ارزیابی را بپردازند، اما پرداخت نباید به نتیجه ارزیابی وابسته باشد. اگر ارزیاب خطری از نوع تعریف‌شده در طرح پیدا کند، باید حداکثر تا ۷۲ ساعت پس از پایان بررسی، گزارش را به وزارت بازرگانی بفرستد.
وزارت بازرگانی می‌تواند پس از بررسی، از قاضی درخواست توقف فعالیت مدل کند؛ اما صدور دستور فقط در اختیار قاضی فدرال دادگاه منطقه‌ای ناحیه کلمبیاست. متن پیش‌نویس، دیگر نهادها و مقام‌های دولتی را از متوقف‌کردن توسعه، عرضه یا استفاده داخلی مدل‌ها منع می‌کند.
طرح هنوز قانون نشده است
سخنگوی آنتروپیک به رویترز گفته پیشنهادهای پیش‌نویس با مواردی در سند «چارچوب هوش مصنوعی پیشرفته» شرکت، که اوایل همان سال منتشر شده، هم‌خوان است. او گفته این طرح توسعه‌دهندگان را به آزمایش مدل‌ها، شفافیت درباره یافته‌ها و ارزیابی مستقل ملزم می‌کند. وزارت بازرگانی آمریکا تا زمان انتشار گزارش به درخواست اظهارنظر پاسخ نداده بود.
چرا مهم است
اگر این طرح به قانون تبدیل شود، شرکت‌های سازنده مدل‌های پیشرفته باید ارزیابی مستقل انجام دهند و یافته‌هایشان را شفاف کنند؛ این می‌تواند نظارت بر مدل‌های پرخطر را برای دولت و عموم رسمی‌تر کند. اما هنوز معلوم نیست کنگره این پیش‌نویس را بررسی یا تصویب خواهد کرد، و توقف یک مدل نیز طبق متن گزارش‌شده خودکار نیست و به حکم قاضی نیاز دارد.
