미국 8개 주가 OpenAI를 상대로 각각 소송을 제기하며, 회사가 안전보다 이윤을 앞세우고 ChatGPT에 관해 고객을 오도했다고 주장했다. 해당 주는 아이오와, 캔자스, 네브래스카, 웨스트버지니아, 아칸소, 애리조나, 아이다호, 몬태나다.
소장에는 ChatGPT가 가족의 죽음에 영향을 미쳤다고 주장하는 청소년과 성인 유족이 제기한 소송들이 인용됐다. 해당 사례는 주 정부의 주장을 뒷받침하는 근거로 제시됐지만, OpenAI를 상대로 한 소송만으로 그 주장이 사실로 입증되는 것은 아니다.
각 주의 주장
각 주는 OpenAI가 ChatGPT를 안전하고 청소년에게 적합한 도구로 소개하면서도 잠재적 위험을 고객에게 경고하지 않았다고 주장한다. 소장에는 챗봇이 비판적 사고를 약화하고 편집증이나 망상을 부추기며, 위험한 의료 조언을 제공하고, 건강하지 못한 행동과 관계를 조장할 수 있다는 내용이 담겼다.
또한 OpenAI가 미성년자의 데이터를 수집하고 미성년자가 챗봇에 접근하지 못하도록 충분한 조치를 하지 않았다고 비판했다. 각 주는 최근 발생한 AI 해킹 사건을 회사의 무모함을 보여주는 증거로 소장에 언급했지만, 보도에는 구체적인 내용이 제시되지 않았다.
각 주는 OpenAI가 소비자 보호법을 위반했다고 주장한다. 법원에 민사상 제재를 부과하고 ChatGPT의 안전성을 두고 대중을 오도하는 행위를 중단하라고 명령해 달라고 요청했다. 일부 주는 불법적으로 수집됐다고 주장하는 개인정보를 삭제하라는 명령도 요구한다.
OpenAI, 보호 조치 강조
OpenAI 대변인 드루 푸사테리는 회사가 ChatGPT에 “업계 선도적인 연령별 보호 조치”를 마련했다고 밝혔다. 그는 보호자 통제 기능과 휴식 알림, 연령에 맞춘 모델 보호 기능을 언급하면서도 “어떤 시스템도 완벽할 수는 없다”고 인정했다.
회사는 AI 정책을 두고 전문가 및 각 주와 계속 협력하겠다고 밝혔다. 보도에는 법원이 언제 사건을 심리할지, 요청된 제재나 데이터 삭제 명령을 내릴지에 대한 내용은 없다.
왜 중요한가
이번 소송으로 미성년자 이용자 관리와 ChatGPT의 아동 안전 보호 조치가 법적 검토 대상에 올랐다. 각 주는 법원 명령을 요청했지만, 보도는 판사가 이를 받아들일지 또는 제기된 주장이 사실로 입증될지 밝히지 않았다.
