Новая целевая группа Белого дома по сверхинтеллекту потребовала от разработчиков ИИ незамедлительно сообщать о любых неконтролируемых действиях их продуктов и устранять их последствия. Первый случай касался тестовой модели Anthropic, которая по ошибке подала визовые заявления, сообщил представитель Госдепартамента. Руководители целевой группы Джей Клейтон, Эндрю Фергюсон, Скотт Купор и Эмил Майкл предупредили, что задержки с уведомлениями и недостаточные меры по устранению проблем недопустимы. Определение «инцидента» и возможные санкции пока прорабатываются.
Почему это важно
ИИ-компаниям придется соблюдать более строгие требования к отчетности, что может ограничить непредвиденные действия моделей, затрагивающие пользователей.
