Tijdens een persbijeenkomst in Washington, D.C. op November 16, 2026 kondigde OpenAI een nieuwe beeldclassifier aan voor materiaal van seksueel misbruik van kinderen (CSAM). Het bedrijf zegt dat het systeem zowel echte als AI-gegenereerde beelden van misbruik kan herkennen en het aantal foutpositieve resultaten waarop beoordelaars moeten reageren, vermindert. OpenAI stelt de classifier gratis beschikbaar aan geselecteerde non-profitorganisaties, politie- en andere gecontroleerde partners. Ook publiceert het richtlijnen voor ontwikkelaars over het opsporen van dit soort content.
De aankondiging volgt op een grote toestroom van meldingen over AI bij de CyberTipline van het National Center for Missing and Exploited Children (NCMEC). In 2025 registreerde NCMEC 400,000 meldingen over CSAM dat met generatieve AI was gemaakt, tegenover 67,000 het jaar ervoor. Volgens functionarissen kan de toename de werklast van de meldlijn onbeheersbaar maken. Jeff Jackson, de procureur-generaal van North Carolina, noemde de stijging “explosief” en waarschuwde dat de organisatie haar missie zonder nieuwe hulpmiddelen mogelijk niet kan waarmaken.
Hoe de classifier werkt en wat OpenAI verder heeft toegevoegd
De classifier van OpenAI geeft elke afbeelding een score op basis van visuele kenmerken die het systeem nog niet eerder heeft gezien en leidt beoordelaars vervolgens naar de beelden die waarschijnlijk het meest misbruik bevatten. In vroege tests met partners meldde het bedrijf dat de tool 48 % minder afbeeldingen markeert, terwijl het nog steeds hetzelfde aantal beelden van misbruik opspoort. De gemarkeerde afbeeldingen bevatten bovendien twee keer zo vaak daadwerkelijk misbruik. Het systeem heeft ook een aparte markering voor AI-gegenereerde CSAM, iets wat volgens OpenAI niet eerder bestond.
Naast de classifier past OpenAI ChatGPT aan met waarschuwingsschermen voor gebruikers die om geseksualiseerde content met kinderen vragen. Bij een eerste overtreding wordt het account 24 uur gepauzeerd en krijgt de gebruiker verwijzingen naar hulpbronnen; herhaalde overtredingen kunnen leiden tot permanente sluiting van het account. OpenAI zegt elk geval van CSAM dat het opspoort te melden aan NCMEC.
Waarom dit nu belangrijk is
Beleidsmakers dringen aan op strengere regels voor AI-veiligheid en verschillende staten hebben al wetten aangenomen over synthetische CSAM. Door de classifier gratis aan te bieden en onderzoekers op te leiden, hoopt OpenAI de stroom nepbeelden terug te dringen. Die kunnen echte gevallen van misbruik aan het zicht onttrekken. Ook wil het bedrijf politie en justitie duidelijker aanknopingspunten geven om snel op te treden. Volgens de procureurs-generaal is de aanpak nog experimenteel, maar ze vormt wel een nieuw samenwerkingsmodel tussen een technologiebedrijf en functionarissen die kinderen beschermen.
Waarom het ertoe doet
Voor gewone mensen kan de classifier betekenen dat illegale content sneller wordt verwijderd en dat onschuldige afbeeldingen minder vaak ten onrechte worden gemeld. Politie en justitie krijgen een duidelijker signaal over welke beelden echt onderzoek vereisen, wat mogelijk meer slachtoffers van misbruik kan beschermen. De effectiviteit van de tool in de praktijk wordt echter nog onderzocht. De tool blijft bovendien alleen beschikbaar voor organisaties die aan de selectiecriteria van OpenAI voldoen.