Oossa

Калифорния поддержала независимую оценку рисков ИИ

В плане губернатора Гэвина Ньюсома предлагается поручить лицензированным независимым экспертам оценивать риски передовых систем ИИ. Их работу будет контролировать штат.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Губернатор Калифорнии Гэвин Ньюсом представил план реализации новых законов штата об ИИ. В документе предлагается ввести независимый надзор за передовыми системами ИИ. Среди рекомендаций — обязать крупных разработчиков таких систем допускать лицензированных экспертов к оценке катастрофических рисков. Эксперты будут отчитываться перед властями штата, а не перед проверяемыми компаниями.

В плане также говорится, что штату следует в первую очередь оценивать автоматизированные исследования и разработки в области ИИ, в том числе рекурсивное самоусовершенствование. Организация Fathom, выступающая за независимую проверку, заявила, что в докладе отражены многие её рекомендации. В документе изложена предлагаемая система надзора, но не указано, когда требования вступят в силу.

Почему это важно

Если план примут, разработчики передовых систем ИИ должны будут проходить независимую оценку рисков. Однако в документе не сказано, когда эти требования начнут действовать.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.