Oossa

OpenAI lança classificador gratuito de imagens de abuso infantil

A OpenAI apresentou uma ferramenta que identifica imagens de abuso sexual infantil geradas por IA, com menos falsos alarmes, e a oferece gratuitamente a organizações aprovadas.

Por Publicado pelo Oossa: 2 min de leitura

Clint Patterson · Unsplash

Em uma coletiva de imprensa em Washington, D.C., em 16 de novembro de 2026, a OpenAI anunciou um novo classificador de imagens voltado a material de abuso sexual infantil (CSAM). A empresa afirma que o sistema identifica imagens abusivas reais e geradas por IA e reduz o número de falsos positivos que os revisores precisam analisar. A OpenAI oferecerá o classificador gratuitamente a organizações sem fins lucrativos, órgãos de segurança pública e outros parceiros aprovados, além de publicar orientações para desenvolvedores sobre como detectar esse tipo de conteúdo.

A iniciativa ocorre em meio à sobrecarga de denúncias relacionadas à IA no CyberTipline do National Center for Missing and Exploited Children (NCMEC). Em 2025, o NCMEC recebeu 400.000 denúncias de CSAM gerado por IA, ante 67.000 no ano anterior. Autoridades afirmam que esse aumento pode tornar impossível dar conta do volume de denúncias. O procurador-geral da Carolina do Norte, Jeff Jackson, chamou o crescimento de “explosivo” e alertou que, sem novas ferramentas, a agência pode não conseguir cumprir sua missão.

Como o classificador funciona e o que mais a OpenAI acrescentou

O classificador da OpenAI atribui uma pontuação a cada imagem com base em sinais visuais que ainda não encontrou e direciona os revisores ao conteúdo com maior probabilidade de ser abusivo. Em testes iniciais com parceiros, a empresa informou que a ferramenta sinaliza 48% menos imagens e, ainda assim, identifica o mesmo número de imagens abusivas. As imagens sinalizadas têm o dobro de probabilidade de realmente conter abuso. O sistema também inclui um indicador específico para CSAM gerado por IA, algo que, segundo a OpenAI, é inédito.

Junto com o classificador, a OpenAI está atualizando o ChatGPT com telas de aviso para usuários que solicitam conteúdo sexualizado envolvendo crianças. Na primeira ocorrência, a conta fica suspensa por 24 horas, e o usuário é encaminhado a recursos de apoio; reincidências podem levar ao encerramento permanente da conta. A OpenAI afirma que denunciará ao NCMEC todos os casos de CSAM que detectar.

Por que isso importa agora

Autoridades e legisladores defendem regras de segurança para IA mais rigorosas, e vários estados já aprovaram leis sobre CSAM sintético. Ao oferecer o classificador gratuitamente e treinar investigadores, a OpenAI espera reduzir a enxurrada de imagens falsas que pode dificultar a identificação de casos reais de abuso e ajudar as forças de segurança a agir mais rapidamente. Segundo os procuradores-gerais, a abordagem ainda é experimental, mas representa um novo modelo de cooperação entre uma empresa de tecnologia e autoridades de proteção à infância.

Por que importa

Para as pessoas em geral, o classificador pode acelerar a remoção de conteúdo ilegal e reduzir a chance de imagens inofensivas serem denunciadas por engano. As forças de segurança terão uma indicação mais clara de quais imagens realmente precisam ser investigadas, o que pode ajudar a proteger mais vítimas reais. No entanto, a eficácia da ferramenta em situações reais ainda está sendo avaliada, e seu uso continua restrito a organizações que atendam aos critérios de aprovação da OpenAI.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.