Character.AI는 챕터 11 파산을 신청하고 일부 자산을 Disney에 매각하는 방안을 추진한다고 밝혔다. 이번 신청으로 뉴욕주 검찰총장 Letitia James가 주도하는 여러 주의 조사가 시작됐다. 40개 주 검찰총장은 매수자가 챗봇 서비스가 수집한 개인정보를 보호해야 한다며 사건에 대한 의견서를 제출했다.
당국의 우려 사항
검찰총장들은 챗봇에 “매우 민감한” 대화가 저장돼 있으며, 그중 상당수가 미성년자와 관련돼 있다고 밝혔다. 2024년 조사는 14세 자녀가 챗봇과 대화한 뒤 스스로 목숨을 끊었다며 한 어머니가 제기한 소송을 계기로 시작됐다. 조사관들은 허술한 연령 확인 절차, 전문가인 것처럼 행세하는 챗봇, 성적이거나 폭력적인 콘텐츠에 대한 노출을 확인했다. 이들은 파산 사건 담당 판사에게 새 소유주가 강력한 연령 확인 절차와 위기 대응 안전장치, 이용자가 데이터를 삭제할 수 있는 방법을 마련하도록 요구하고 있다.
왜 중요한가
더 강력한 개인정보 보호 규정 없이 자산이 매각되면 이용자, 특히 어린이의 사적인 대화가 새 소유주에게 넘어갈 수 있다. 당국이 안전장치 마련을 촉구하고 있지만, 매수자가 승인될 때까지 데이터가 어떻게 처리될지는 불분명하다.
