Anthropic بی‌سروصدا لابی برای تصویب قانون تازه‌ای در زمینه ایمنی هوش مصنوعی را آغاز کرده است. بر اساس این پیشنهاد، دولت آمریکا می‌تواند جلوی عرضه یک مدل هوش مصنوعی را بگیرد، اما فقط اگر آن مدل بتواند دست‌کم 50 نفر را بکشد یا حداقل $1 billion خسارت وارد کند. این لایحه تصمیم‌گیری را به وزارت بازرگانی می‌سپارد و برای بررسی ارزیابی‌های آزمایشگاه از خطرها، از یک ارزیاب مستقل کمک می‌گیرد.
سازوکار لایحه
به گزارش Politico، یک ارزیاب شخص ثالث که در وزارت بازرگانی ثبت شده باشد، به‌طور دوره‌ای آزمایشگاه‌های Anthropic و مدل‌های هوش مصنوعی آن را بررسی می‌کند. آزمایشگاه می‌تواند هزینه ارزیاب را بپردازد، اما این پرداخت نباید بر استقلال او اثر بگذارد. Anthropic می‌گوید این رویکرد با «چارچوب هوش مصنوعی پیشرفته» این شرکت هم‌خوان است؛ چارچوبی که از ژوئن تاکنون آن را به قانون‌گذاران معرفی کرده است.
چرا مهم است
در صورت تصویب، این قانون به وزارت بازرگانی اختیار می‌دهد مدل‌های هوش مصنوعی پرخطر را متوقف کند، اما فقط پس از اثبات احتمال خسارتی با آستانه‌ای بسیار بالا. برای کاربران عادی، یعنی بیشتر ابزارهای هوش مصنوعی همچنان در دسترس می‌مانند، مگر آنکه خطری آشکار و گسترده پدیدار شود؛ در نتیجه، بخش عمده رسیدگی به نگرانی‌های ایمنی بر عهده خود شرکت‌ها خواهد بود.
