En una rueda de prensa celebrada en Washington, D. C., el 16 de noviembre de 2026, OpenAI anunció un nuevo clasificador de imágenes diseñado para detectar material de abuso sexual infantil (CSAM, por sus siglas en inglés). La empresa afirma que el sistema puede identificar tanto imágenes reales como imágenes de abuso generadas con IA y reduce la cantidad de falsos positivos que deben revisar los analistas. OpenAI ofrecerá el clasificador sin costo a organizaciones sin fines de lucro, organismos encargados de hacer cumplir la ley y otros socios seleccionados que hayan sido verificados. Además, publicará una guía para desarrolladores sobre cómo detectar este tipo de contenido.
La iniciativa llega cuando la CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) está desbordada por las denuncias relacionadas con la IA. En 2025, el NCMEC registró 400,000 denuncias de CSAM generado con IA, frente a 67,000 el año anterior. Las autoridades advierten que este aumento podría volver inmanejable la carga de trabajo de la línea de denuncias. Jeff Jackson, fiscal general de Carolina del Norte, calificó el incremento de «explosivo» y advirtió que, sin nuevas herramientas, la institución podría no cumplir su misión.
Cómo funciona el clasificador y qué más añadió OpenAI
El clasificador de OpenAI asigna una puntuación a cada imagen según indicios visuales que no había detectado antes y orienta a los analistas hacia el contenido con más probabilidades de ser abusivo. En las primeras pruebas con socios, la empresa informó que la herramienta señala un 48 % menos de imágenes y, aun así, detecta la misma cantidad de imágenes abusivas; además, las imágenes que marca tienen el doble de probabilidades de contener abuso real. El sistema también incluye una marca específica para el CSAM generado con IA, algo que, según OpenAI, no existía hasta ahora.
Junto con el clasificador, OpenAI actualizará ChatGPT para mostrar pantallas de advertencia a los usuarios que soliciten contenido sexualizado con menores. La primera infracción activa una pausa de 24 horas en la cuenta y dirige al usuario a recursos de ayuda; las infracciones reiteradas pueden llevar al cierre permanente de la cuenta. OpenAI afirma que denunciará al NCMEC todos los casos de CSAM que detecte.
Por qué importa ahora
Las autoridades están impulsando normas de seguridad más estrictas para la IA, y varios estados ya han aprobado leyes sobre CSAM sintético. Al ofrecer el clasificador gratis y capacitar a investigadores, OpenAI espera reducir la avalancha de imágenes falsas que puede ocultar casos reales de abuso y dar a las fuerzas del orden una vía más clara para actuar con rapidez. Según los fiscales generales, el enfoque sigue siendo experimental, pero representa un nuevo modelo de colaboración entre una empresa tecnológica y las autoridades de protección infantil.
Por qué importa
Para la gente, el clasificador podría acelerar la retirada de contenido ilegal y reducir la posibilidad de que se denuncien por error imágenes inocuas. Las fuerzas del orden obtendrían una señal más clara sobre qué imágenes requieren una investigación, lo que podría ayudar a proteger a más víctimas reales. Sin embargo, todavía se está evaluando la eficacia de la herramienta en situaciones reales y su uso sigue limitado a las organizaciones que cumplen los criterios de verificación de OpenAI.