메타는 2026년 10월 7일 아동 성착취물로 이어지는 광고를 찾아내기 위한 새로운 인공지능 도구를 발표했다. 회사는 올해 상반기 Facebook과 Instagram에서 관련 콘텐츠 3,320만 건을 삭제했다고도 밝혔다. 삭제된 콘텐츠 가운데 97% 이상은 사용자가 신고하기 전에 조치됐다.
새 도구의 작동 방식
텍스트를 처리하는 AI인 메타의 최신 대규모 언어 모델은 ‘유도 링크(signposting)’를 찾아낸다. 겉보기에는 일반적인 광고처럼 보이지만 사용자를 불법 사이트로 보내는 광고를 뜻한다. 이 시스템은 광고 문구만 확인하는 대신 링크를 따라가 목적지를 확인하고, 규정 위반 사이트라면 차단할 수 있다. 메타는 자체 안전 시스템을 무력화하려 시도하는 ‘레드팀 AI 에이전트’도 추가해, 악의적인 행위자가 취약점을 악용하기 전에 엔지니어가 이를 보완하도록 돕는다. 기존 도구가 놓친 착취 콘텐츠를 찾아내기 위한 추가 검사도 진행하고 있으며, 새 계정으로 돌아오는 상습 위반자를 더 잘 탐지하도록 플랫폼을 개선하고 있다.
아동 안전 강화 조치
새 AI 조치는 메타가 2026년에 도입한 일련의 아동 안전 기능에 추가됐다. 여기에는 Meta AI 자녀 보호 기능, 10대 초반을 위한 WhatsApp 계정, 청소년이 자해 관련 콘텐츠를 검색할 때 Instagram이 보내는 알림 등이 포함된다. 8월 메타는 아동 안전 문제를 둘러싸고 미국 29개 주가 제기한 소송을 해결하기 위해 최대 180억 달러를 지급하기로 합의했다.
왜 중요한가
이 AI는 유해한 광고가 사용자, 특히 어린이를 불법 콘텐츠로 몰래 유도하는 것을 막을 수 있다. 부모는 피드에 위험한 링크가 덜 노출되는 것을 체감할 수 있지만, 새 도구의 효과는 아직 측정 중이며 메타는 독립적인 감사 결과를 공개하지 않았다.
