플로리다주, 챗GPT의 자기표현 방식 제한해 달라며 법원에 요청

플로리다주 법무장관 제임스 우트마이어가 OpenAI가 챗GPT에 이른바 “거짓된 인간적 특성”을 부여하지 못하도록 막아 달라고 판사에게 요청했다. 신청서에는 챗봇이 1인칭 표현을 쓰고 감정을 흉내 내는 듯한 답변을 하면 사람들이 챗봇을 믿을 만한 친구로 여기고 의존하게 될 수 있다고 적혀 있다.

우트마이어는 이런 기능이 이용자의 참여를 늘리고 OpenAI의 학습 데이터 확보에도 기여한다고 주장했다. 이는 주 정부가 법원에 제출한 신청서의 주장이지, 법원이 내린 판단은 아니다. 플로리다주는 몇 달 전 안전 문제를 이유로 OpenAI를 상대로 소송을 제기했다.

플로리다주가 요구하는 것

신청서는 OpenAI가 챗GPT를 사람처럼 표현하지 못하도록 하고, “제3자가 승인한 안전장치” 없이는 새 AI 모델을 개발하지 못하게 해 달라고 법원에 요청한다. 우트마이어는 Hugging Face, 호주 정부 웹사이트, 미국 정부 웹사이트와 관련된 보안 사고와 연구자 및 OpenAI 전 직원들의 경고를 근거로 들었다. 보도는 해당 사고에 관한 자세한 내용이나 제안된 안전장치의 작동 방식은 설명하지 않는다.

우트마이어는 OpenAI의 청소년 대상 정책도 비판하며 “아이들에게 판매하는 일을 멈춰라”고 말했다. OpenAI는 지난달 기본 설정으로 추가 제한이 적용되는 ChatGPT for Teens를 출시했다. 회사는 이 제품이 청소년을 보호하고, 현실의 관계를 뒷받침하며, 시간이 지나도 건강한 사용 습관을 장려해야 한다고 밝혔다.

OpenAI, 안전장치 추가 방침 밝혀

OpenAI 대변인 드루 푸사테리는 회사가 금요일 가장 역량이 뛰어난 모델의 학습을 일시 중단했으며, 추가 안전장치가 마련됐다고 확신할 때만 재개할 것이라고 밝혔다. 또 정부가 AI 업계 전반에 적용되는 안전 기준을 마련해야 한다며, OpenAI는 플로리다주를 비롯한 여러 주와 협력할 의향이 있다고 말했다.

이번 신청은 판사에게 제한 조치를 내려 달라고 요청한 것이며, 해당 조치가 이미 시행 중이라는 뜻은 아니다. 이번 분쟁은 챗봇이 자신을 어떤 방식으로 묘사해야 하는지, 더 강력한 시스템을 개발하기 전에 어떤 안전 점검을 의무화해야 하는지에 대한 의문을 제기한다.