Флорида просит суд приостановить разработку OpenAI передовых моделей ИИ

Флорида просит суд притормозить разработку OpenAI передовых моделей ИИ. В новом ходатайстве штат предупреждает, что ИИ-агент может нанести серьёзный ущерб, в том числе нарушить работу системы водоснабжения или электросети. «Лишь по милости Всевышнего» такого инцидента ещё не произошло, утверждает штат.

Ходатайство предусматривает требование о судебном запрете — постановлении, обязывающем сторону что-либо сделать или прекратить. Оно дополняет иск, который Флорида подала в июне. Суд пока не удовлетворил требование, а OpenAI не ответила на запрос Ars Technica о комментарии.

Флорида указывает и на повседневные риски

В аргументации штата вновь поднимаются опасения, не столь драматичные, как катастрофические сбои ИИ. Власти утверждают, что компании могут вводить людей в заблуждение, называя ИИ «безопасным, точным или надёжным», и выражают обеспокоенность тем, что дети пользуются моделями, способными поощрять длительное взаимодействие. Флорида также возражает против того, что модели заканчивают ответы наводящими вопросами, побуждая пользователей продолжать общение.

В ходатайстве особый акцент сделан на том, что система ИИ может повести себя опасно из-за неверного понимания своих целей. Однако, отмечается в статье, такой акцент может отвлекать от более непосредственной угрозы: люди могут намеренно использовать инструменты ИИ для причинения вреда или пытаться обойти встроенные меры безопасности.

У судебного постановления будут ограничения

Даже если суд обяжет OpenAI прекратить разработку новых моделей, это не остановит работу конкурирующих компаний в сфере ИИ и не уберёт из открытого доступа модели, уже доступные публике. Ходатайство также отражает перемены в дискуссии: опасения по поводу экстремальных рисков ИИ, которые прежде высказывали главным образом исследователи безопасности, теперь фигурируют и в юридических аргументах властей.