Anthropic распространила проект закона, который наделит Министерство торговли США правом останавливать распространение ИИ-модели при выявлении «непосредственной катастрофической угрозы». Под такой угрозой понимается риск гибели более 50 человек или ущерба имуществу на сумму свыше $1 billion. Опасность должна быть связана с биологическим оружием, выходом модели из-под контроля или кибератакой.
Как будет работать законопроект
Проект предусматривает, что риск модели будут оценивать «независимые эксперты», зарегистрированные в Министерстве торговли. За их работу могут платить ИИ-компании, но размер оплаты не должен зависеть от результатов оценки. Если эксперт выявит угрозу, у него будет 72 часа, чтобы уведомить Министерство торговли. После этого ведомство должно обратиться к судье в Вашингтоне с просьбой распорядиться о приостановке выпуска модели. Законопроект запрещает любому федеральному ведомству самостоятельно останавливать модель.
Реакция отрасли
Anthropic заявляет, что законопроект отражает положения её Advanced AI Framework, который компания продвигает среди законодателей с июня. Других комментариев компания не дала. Другие ИИ-компании выступают за добровольный внутренний контроль вместо обязательного надзора, а генеральный директор Nvidia утверждал, что отрасли не нужны новые законы.
Почему это важно
Если законопроект примут, он позволит останавливать выпуск ИИ-систем, представляющих серьёзную угрозу безопасности, и создаст правовой механизм защиты общества от экстремального вреда. Разработчикам придётся пройти дополнительную процедуру проверки перед запуском мощных моделей. Пока неясно, насколько независимыми будут оценки и как быстро суды смогут выносить решения на практике.
