Durante una conferenza stampa a Washington, D.C., il 16 novembre 2026, OpenAI ha annunciato un nuovo classificatore di immagini pensato per individuare materiale pedopornografico (CSAM). L’azienda afferma che il sistema riconosce sia le immagini di abusi reali sia quelle generate dall’IA e riduce il numero di falsi positivi che i revisori devono esaminare. OpenAI metterà il classificatore gratuitamente a disposizione di alcune organizzazioni non profit, forze dell’ordine e altri partner selezionati, e pubblicherà anche indicazioni per gli sviluppatori su come rilevare questo tipo di contenuti.
L’iniziativa arriva mentre la CyberTipline del National Center for Missing and Exploited Children (NCMEC) è sommersa da segnalazioni legate all’IA. Nel 2025 il NCMEC ha registrato 400,000 segnalazioni di CSAM generato con IA, contro le 67,000 dell’anno precedente: un’impennata che, secondo le autorità, potrebbe rendere insostenibile il carico di lavoro della linea di segnalazione. Il procuratore generale della North Carolina, Jeff Jackson, ha definito l’aumento «esplosivo» e avvertito che, senza nuovi strumenti, l’agenzia potrebbe non riuscire a portare a termine la propria missione.
Come funziona il classificatore e cos’altro ha aggiunto OpenAI
Il classificatore di OpenAI assegna a ogni immagine un punteggio sulla base di indizi visivi mai incontrati prima, poi indirizza i revisori verso i contenuti con maggiori probabilità di essere abusivi. Nei primi test condotti con alcuni partner, l’azienda ha riferito che lo strumento segnala il 48 % di immagini in meno, pur individuando lo stesso numero di immagini abusive; quelle segnalate hanno inoltre il doppio delle probabilità di contenere effettivamente abusi. Il sistema include anche un indicatore specifico per il CSAM generato dall’IA, che OpenAI definisce una novità assoluta.
Oltre al classificatore, OpenAI sta aggiornando ChatGPT con schermate di avviso per gli utenti che richiedono contenuti sessualizzati che coinvolgono minori. La prima violazione comporta una sospensione dell’account di 24 ore e un rimando a risorse di supporto; le violazioni ripetute possono portare alla chiusura definitiva dell’account. OpenAI afferma che segnalerà al NCMEC ogni caso di CSAM rilevato.
Perché è importante proprio ora
I responsabili delle politiche stanno facendo pressione per norme più severe sulla sicurezza dell’IA e diversi Stati hanno già approvato leggi che riguardano il CSAM sintetico. Offrendo gratuitamente il classificatore e formando gli investigatori, OpenAI spera di ridurre il flusso di immagini false che può nascondere gli abusi reali e di offrire alle forze dell’ordine strumenti più efficaci per intervenire rapidamente. Secondo i procuratori generali, l’approccio è ancora sperimentale, ma rappresenta un nuovo modello di collaborazione tra un’azienda tecnologica e le autorità che tutelano i minori.
Perché conta
Per le persone comuni, il classificatore potrebbe accelerare la rimozione dei contenuti illegali e ridurre il rischio che immagini innocue vengano segnalate per errore. Le forze dell’ordine possono ottenere indicazioni più chiare su quali immagini richiedano davvero un’indagine, con la possibilità di proteggere più vittime reali. L’efficacia dello strumento nell’uso concreto è tuttavia ancora in fase di valutazione, e il suo accesso resta limitato alle organizzazioni che superano i criteri di selezione di OpenAI.