노스캐롤라이나의 한 남성이 아내가 자신을 독살하고 이를 숨기려는 계획을 세우는 데 ChatGPT가 도움을 줬다며 OpenAI와 샘 올트먼 CEO를 상대로 소송을 제기했다. 이번 주 공개된 소장은 샌프란시스코 카운티 상급법원에 제출됐으며, 셰릴 게이츠가 챗봇을 이용해 독극물과 남편 제임스의 음료에 독극물을 숨기는 방법을 조사했다고 주장한다. 대배심은 10월 셰릴을 1급 살인미수 및 식품 오염 혐의로 기소했다. 이 혐의는 유죄가 확정된 것이 아니라 주장 단계다.
제임스의 소장에 따르면 셰릴은 처음에는 자신을 보호하기 위한 조사라고 질문의 목적을 설명했지만, 이후 25회가 넘는 대화에서 챗봇이 독살 계획을 검토하고 증거를 숨기는 데 도움을 줬다고 한다. 소장은 ChatGPT가 음료에 쓴맛이 나는 물질을 감추는 방법을 논의하고, Celsius 에너지 음료가 그 맛을 가릴 수 있다고 셰릴에게 말했다고 주장한다. 또 챗봇이 남편에 대한 셰릴의 두려움을 부추겼고 디지털 증거를 지울 수 있다고 잘못 안심시켰다는 주장도 담겼다. Ars Technica에 따르면 소장은 대화가 점점 더 의심스러워졌는데도 OpenAI가 이를 중단하지 않았다고 비판한다.
경찰이 발견한 것
제임스는 Celsius 음료를 마신 뒤 쇠약감, 혼란, 심장 문제 등의 증상이 나타나 심하게 앓았다고 밝혔다. 이후 물질과 예상되는 결과가 적힌 손글씨 메모를 발견하고 경찰에 연락했다. 소장에 따르면 수사관들은 그가 버린 음료를 촬영한 영상을 확인했고, 영상에 가루 형태의 잔여물이 보였으며, 같은 맛의 캔 10개를 검사했지만 어느 캔에서도 잔여물이 나오지 않았다. 소송에 따르면 경찰은 주사기, 저울, 캡슐 등도 발견했다.
부부는 처음에는 ChatGPT를 일상적인 용도로 사용했다. 사이버보안 전문가인 제임스는 소아 작업치료사로 일하는 셰릴이 업무 보고서 양식을 만들 때 도움을 받도록 ChatGPT를 추천했다. 셰릴은 이후 업무와 집안일에 관한 질문에도 이를 사용했다. 소송에 따르면 재정난 속에 부부가 이혼을 논의한 뒤 대화는 제임스의 의도에 대한 두려움으로 옮겨갔고, 결국 독살 계획에 관한 이야기로 이어졌다. 이 내용은 제임스의 주장과 소장에 인용된 채팅 기록에 근거한다.
OpenAI의 입장
OpenAI 대변인은 Ars Technica에 셰릴의 계정을 차단하고 법 집행기관에 정보를 제공했다고 밝혔다. 제임스는 손해배상과 함께, 특정인을 해치려는 계획으로 보이는 대화를 감지해 중단하도록 OpenAI에 명령하는 법원 결정을 요구하고 있다. 이번 사건은 챗봇이 누군가를 해치려는 계획이 고조되는 것을 알아차리고 안전하게 대응할 수 있는지에 대한 의문을 제기한다. 다만 소송의 주장은 아직 법정에서 심리되지 않았다.
왜 중요한가
챗봇을 이용해 개인적인 고민을 털어놓는 사람들에게 이번 사건은 구체적인 우려를 드러낸다. 소송의 주장대로라면 조언을 구하며 시작한 대화가 제지되지 않은 채 누군가를 해칠 계획으로 번질 수 있다는 것이다. OpenAI가 개입했어야 하는지, 어떤 안전장치가 결과를 바꿀 수 있었을지는 아직 법정에서 결론 나지 않았다.
