OpenAI는 2026년 11월 16일 워싱턴 D.C.에서 열린 기자 간담회에서 아동 성착취물(CSAM)을 겨냥한 새로운 이미지 분류기를 발표했다. 회사는 이 시스템이 실제 이미지와 AI 생성 이미지를 모두 찾아내며, 검토자가 처리해야 하는 오탐을 줄여준다고 밝혔다. OpenAI는 일부 비영리단체와 법 집행기관, 그 밖의 검증된 협력 기관에 분류기를 무료로 제공하고, 개발자들이 이런 유형의 콘텐츠를 감지하는 방법을 안내하는 자료도 공개한다.
이번 조치는 미국 실종·착취 아동 센터(NCMEC)의 사이버팁라인에 AI 관련 신고가 쏟아지는 가운데 나왔다. NCMEC는 2025년 생성형 AI 관련 아동 성착취물 신고 400,000건을 접수했다. 전년의 67,000건에서 급증한 것으로, 당국자들은 이로 인해 신고 전화의 업무량이 감당하기 어려운 수준에 이를 수 있다고 말한다. 노스캐롤라이나주 법무장관 제프 잭슨은 증가세가 “폭발적”이라고 표현하며, 새로운 도구가 없으면 기관이 임무를 수행하지 못할 수 있다고 경고했다.
분류기 작동 방식과 OpenAI의 추가 조치
OpenAI의 분류기는 이미지마다 새로운 시각적 단서를 바탕으로 점수를 매긴 뒤, 학대 가능성이 가장 높은 콘텐츠를 검토자에게 우선 보여준다. 협력 기관과 진행한 초기 시험에서 이 도구는 학대 이미지를 같은 수만큼 찾아내면서도 표시하는 이미지 수를 48% 줄였다고 회사는 밝혔다. 표시된 이미지가 실제 학대 콘텐츠일 가능성은 두 배 높았다. 또 시스템에는 AI 생성 아동 성착취물을 따로 표시하는 기능도 포함됐다. OpenAI는 이런 기능이 처음이라고 설명했다.
분류기와 함께 OpenAI는 아동을 성적으로 대상화하는 콘텐츠를 요청한 사용자에게 경고 화면을 표시하도록 ChatGPT를 업데이트한다. 첫 위반 시 계정이 24시간 정지되고 도움을 받을 수 있는 자료가 안내된다. 반복 위반은 계정 영구 폐쇄로 이어질 수 있다. OpenAI는 탐지한 아동 성착취물 사례를 모두 NCMEC에 신고하겠다고 밝혔다.
지금 이 조치가 중요한 이유
정책 입안자들은 더 엄격한 AI 안전 규정을 추진하고 있으며, 이미 여러 주에서 합성 아동 성착취물을 다루는 법률을 통과시켰다. OpenAI는 분류기를 무료로 제공하고 수사관을 교육해, 실제 학대 사례를 가릴 수 있는 가짜 이미지의 홍수를 줄이고 법 집행기관이 신속히 대응할 수 있도록 돕겠다는 방침이다. 주 법무장관들은 이 방식이 아직 실험 단계라고 밝혔지만, 기술 기업과 아동 보호 당국 간 협력의 새로운 모델이라는 점에서 의미가 있다.
왜 중요한가
일반인에게 이 분류기는 불법 콘텐츠가 더 빨리 삭제되고 무해한 이미지가 잘못 신고될 가능성이 줄어든다는 의미가 될 수 있다. 법 집행기관은 실제 수사가 필요한 이미지를 더 명확히 가려내 더 많은 피해자를 보호할 수 있다. 다만 실제 현장에서 도구가 얼마나 효과적인지는 아직 평가 중이며, OpenAI의 검증 기준을 충족한 기관만 이용할 수 있다.