Anthropic негласно начала лоббировать новый закон о безопасности ИИ. Согласно предложению, власти США смогут запретить выпуск ИИ-модели, только если она может привести к 50 или более смертям либо нанести ущерб не менее чем на $1 млрд. Решение будет принимать Министерство торговли США, а оценку рисков, проведённую разработчиком, будет проверять независимый эксперт.
Как будет работать законопроект
Как сообщает Politico, независимый эксперт, зарегистрированный в Министерстве торговли США, будет периодически проверять лаборатории Anthropic и её ИИ-модели. Лаборатория сможет оплачивать услуги эксперта, но это не должно влиять на его независимость. Anthropic утверждает, что этот подход соответствует её «Рамочной программе для передового ИИ» (Advanced AI Framework), которую компания продвигает среди законодателей с июня.
Почему это важно
Если закон примут, Министерство торговли США получит право блокировать выпуск рискованных ИИ-моделей, но только при доказанном высоком пороге возможного ущерба. Для обычных пользователей это означает, что большинство ИИ-инструментов останутся доступными, пока не возникнет явная угроза крупного масштаба. При этом вопросы безопасности в основном останутся на ответственности самих компаний.
