Oossa

OpenAI lance un classificateur gratuit d’images pédocriminelles

OpenAI a présenté un outil qui repère les images d’abus sexuels sur des enfants générées par IA, réduit les faux positifs et sera offert à des organisations agréées.

Par Publié par Oossa: 2 min de lecture

Clint Patterson · Unsplash

Lors d’un point presse à Washington, D.C., le 16 novembre 2026, OpenAI a annoncé un nouveau classificateur d’images destiné à repérer les contenus pédocriminels (CSAM). L’entreprise affirme que son système détecte aussi bien les images d’abus réels que celles générées par IA, et qu’il réduit le nombre de faux positifs à examiner. OpenAI fournira gratuitement le classificateur à certaines organisations à but non lucratif, forces de l’ordre et autres partenaires agréés. L’entreprise publie également des conseils à l’intention des développeurs sur la détection de ce type de contenu.

Cette initiative intervient alors que la CyberTipline du National Center for Missing and Exploited Children (NCMEC) est submergée de signalements liés à l’IA. Le NCMEC a recensé 400,000 signalements de contenus pédocriminels générés par IA en 2025, contre 67,000 l’année précédente. Selon des responsables, cette hausse pourrait rendre la charge de travail de la ligne de signalement ingérable. Jeff Jackson, procureur général de Caroline du Nord, a qualifié cette augmentation d’« explosive » et averti que, sans de nouveaux outils, l’agence pourrait ne plus être en mesure de remplir sa mission.

Fonctionnement du classificateur et autres mesures d’OpenAI

Le classificateur d’OpenAI attribue à chaque image un score fondé sur des indices visuels inédits, puis oriente les personnes chargées de l’examen vers les contenus les plus susceptibles d’être abusifs. Lors de premiers tests menés avec des partenaires, l’entreprise indique que l’outil signale 48 % d’images en moins tout en détectant autant d’images abusives, et que les images signalées sont deux fois plus susceptibles de contenir réellement des abus. Le système comporte également un indicateur spécifique aux contenus pédocriminels générés par IA, une première selon OpenAI.

En parallèle, OpenAI ajoute à ChatGPT des écrans d’avertissement pour les utilisateurs qui demandent des contenus sexualisés impliquant des enfants. À la première infraction, le compte est suspendu pendant 24 heures et l’utilisateur est orienté vers des ressources d’aide ; en cas de récidive, son compte peut être définitivement fermé. OpenAI affirme qu’elle signalera au NCMEC chaque cas de contenu pédocriminel détecté.

Pourquoi c’est important maintenant

Les responsables politiques réclament des règles plus strictes en matière de sécurité de l’IA, et plusieurs États ont déjà adopté des lois sur les contenus pédocriminels synthétiques. En proposant gratuitement son classificateur et en formant les enquêteurs, OpenAI espère réduire le flot de fausses images qui peut masquer des abus réels et aider les forces de l’ordre à intervenir plus rapidement. Selon les procureurs généraux, cette approche reste expérimentale, mais elle inaugure une nouvelle forme de coopération entre une entreprise technologique et les autorités chargées de protéger les enfants.

Pourquoi c'est important

Pour le grand public, le classificateur pourrait accélérer le retrait des contenus illégaux et réduire le risque que des images inoffensives soient signalées par erreur. Les forces de l’ordre disposeraient de meilleurs indices pour déterminer quelles images nécessitent réellement une enquête, ce qui pourrait contribuer à protéger davantage de victimes. Toutefois, l’efficacité de l’outil dans des conditions réelles reste à évaluer, et son accès demeure réservé aux organisations qui satisfont aux critères d’agrément d’OpenAI.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.