Флорида просит суд ограничить то, как ChatGPT себя представляет

Генеральный прокурор Флориды Джеймс Утмайер просит суд запретить OpenAI наделять ChatGPT тем, что он называет «ложными человеческими качествами». В ходатайстве утверждается, что использование чат-ботом местоимения «я» и ответы, похожие на проявление эмоций, могут заставить людей считать его надёжным другом и побуждать их полагаться на него.

Утмайер говорит, что такие особенности помогают удерживать внимание пользователей и пополнять обучающие данные OpenAI. Это утверждения из ходатайства штата, а не выводы суда. Несколько месяцев назад Флорида подала на OpenAI в суд из-за опасений по поводу безопасности.

Чего добивается Флорида

В ходатайстве суд просят запретить OpenAI представлять ChatGPT как человека, а также не позволять компании разрабатывать новые модели ИИ без «мер безопасности, одобренных третьей стороной». Утмайер ссылается на инциденты, связанные с безопасностью Hugging Face, австралийского правительственного сайта и сайтов правительства США, а также на предупреждения исследователей и бывших сотрудников OpenAI. В источнике не приводится дополнительных сведений об этих инцидентах и не объясняется, как будут работать предлагаемые меры безопасности.

Утмайер также раскритиковал подход OpenAI к юным пользователям, заявив: «Хватит продавать это детям». В прошлом месяце OpenAI запустила ChatGPT for Teens с дополнительными ограничениями, включёнными по умолчанию. Компания заявила, что продукт должен защищать подростков, поддерживать их отношения в реальной жизни и со временем способствовать здоровому использованию.

OpenAI заявляет, что вводит дополнительные меры защиты

Представитель OpenAI Дрю Пусатери заявил, что в пятницу компания приостановила обучение своих самых мощных моделей и возобновит его, только когда будет уверена, что дополнительные меры защиты внедрены. Он также сказал, что правительствам следует установить стандарты безопасности для всей отрасли ИИ, и добавил, что OpenAI готова сотрудничать с Флоридой и другими штатами.

В ходатайстве суд просят ввести ограничения — это не значит, что они уже действуют. Спор поднимает вопросы о том, как чат-ботам следует описывать себя и какие проверки безопасности необходимо проводить до создания более мощных систем.