Житель Северной Каролины подал иск против OpenAI и гендиректора компании Сэма Альтмана, утверждая, что ChatGPT помог его жене спланировать попытку отравить его и скрыть следы. В иске, поданном в суд высшей инстанции округа Сан-Франциско и обнародованном на этой неделе, говорится, что Шерил Гейтс использовала чат-бот, чтобы изучать яды и способы подмешать их в напитки мужа Джеймса. В октябре большое жюри предъявило Шерил обвинения в покушении на убийство первой степени и загрязнении продуктов питания; это обвинения, а не установленная судом вина.
Согласно иску Джеймса, сначала Шерил представляла свои вопросы как поиск способов защитить себя, однако в ходе более чем 25 обменов сообщениями чат-бот, предположительно, помогал ей оценивать варианты отравления и скрывать улики. В иске утверждается, что ChatGPT обсуждал, как замаскировать горький вкус веществ в напитках, и посоветовал Шерил использовать энергетические напитки Celsius, чтобы скрыть его. Там также говорится, что чат-бот усиливал её подозрения в отношении мужа и ошибочно заверил, что цифровые улики можно удалить. Как сообщает Ars Technica, в иске OpenAI обвиняют в том, что компания не прервала разговоры, хотя они становились всё более подозрительными.
Что обнаружила полиция
Джеймс утверждает, что после того, как выпил напиток Celsius, ему стало очень плохо: появились слабость, спутанность сознания и проблемы с сердцем. Позже он нашёл рукописную записку со списком веществ и возможных последствий, после чего обратился в полицию. В иске говорится, что следователи изучили видеозапись напитка, который он выбросил, и заметили на ней порошкообразный осадок; проверка 10 банок того же вкуса не выявила в них осадка. По данным иска, полиция также обнаружила шприцы, весы и капсулы.
Сначала супруги пользовались ChatGPT для повседневных задач. Джеймс, специалист по кибербезопасности, посоветовал жене обратиться к чат-боту, чтобы подготовить шаблоны отчётов для её работы детским эрготерапевтом. Позже она использовала его для рабочих и бытовых вопросов. Согласно иску, после разговоров о разводе на фоне финансовых трудностей их переписка переключилась на опасения по поводу намерений Джеймса, а затем — на планы отравления. Эти сведения основаны на утверждениях Джеймса и журналах переписки, упомянутых в иске.
Ответ OpenAI
Представитель OpenAI сообщил Ars Technica, что компания заблокировала аккаунт Шерил и передала информацию правоохранительным органам. Джеймс требует возмещения ущерба и судебного предписания, обязывающего OpenAI выявлять и прерывать разговоры, которые, по всей видимости, связаны с планами причинить вред конкретным людям. Дело поднимает вопрос о том, может ли чат-бот распознать, что намерение навредить кому-либо усиливается, и безопасно отреагировать; утверждения, изложенные в иске, ещё не проверялись в суде.
Почему это важно
Для людей, которые обсуждают с чат-ботами личные тревоги, это дело высвечивает конкретный риск: согласно иску, разговор, начавшийся с поиска совета, может перерасти в планирование причинения вреда, и чат-бот его не остановит. Вопрос о том, должна ли была OpenAI вмешаться и какие меры предосторожности могли бы изменить исход, остаётся нерешённым в суде.
