Oossa

OpenAI stellt Ermittlern kostenlosen CSAM-Klassifikator bereit

OpenAI hat ein Tool vorgestellt, das KI-generierte Darstellungen sexuellen Kindesmissbrauchs erkennt, weniger Fehlalarme auslöst und geprüften Organisationen kostenlos zur Verfügung steht.

Von Von Oossa veröffentlicht: 2 Min. Lesezeit

Clint Patterson · Unsplash

Bei einer Pressekonferenz am 16. November 2026 in Washington, D.C., hat OpenAI einen neuen Bildklassifikator vorgestellt, der Darstellungen sexuellen Kindesmissbrauchs (CSAM) erkennen soll. Das Unternehmen zufolge kann das System sowohl echte als auch KI-generierte Missbrauchsdarstellungen erkennen und reduziert die Zahl der Fehlalarme, die geprüft werden müssen. OpenAI stellt den Klassifikator ausgewählten gemeinnützigen Organisationen, Strafverfolgungsbehörden und anderen geprüften Partnern kostenlos zur Verfügung. Außerdem veröffentlicht das Unternehmen Leitlinien für Entwickler, wie sie solche Inhalte erkennen können.

Der Schritt erfolgt, während die CyberTipline des National Center for Missing and Exploited Children (NCMEC) von Meldungen zu KI-generierten Inhalten überflutet wird. 2025 registrierte das NCMEC 400,000 Meldungen zu KI-generierten CSAM-Darstellungen – gegenüber 67,000 im Vorjahr. Behördenvertreter warnen, der Anstieg könnte die Tipline überfordern. Der Generalstaatsanwalt von North Carolina, Jeff Jackson, bezeichnete die Zunahme als „explosiv“ und warnte, die Behörde könne ihren Auftrag ohne neue Werkzeuge möglicherweise nicht mehr erfüllen.

So funktioniert der Klassifikator – und was OpenAI sonst ändert

Der Klassifikator von OpenAI bewertet jedes Bild anhand visueller Merkmale, die er zuvor noch nicht gesehen hat, und lenkt Prüfer auf die wahrscheinlichsten Missbrauchsdarstellungen. In ersten Tests mit Partnern meldete das Unternehmen, das Tool markiere 48 % weniger Bilder, erfasse aber weiterhin dieselbe Zahl an Missbrauchsdarstellungen. Die markierten Bilder enthielten doppelt so häufig tatsächlich Missbrauch. Das System verfügt außerdem über eine spezielle Kennzeichnung für KI-generierte CSAM-Darstellungen – laut OpenAI die erste ihrer Art.

Zusätzlich zum Klassifikator aktualisiert OpenAI ChatGPT um Warnhinweise für Nutzer, die sexualisierte Inhalte mit Kindern anfordern. Beim ersten Verstoß wird das Konto für 24 Stunden pausiert; Nutzer werden zudem auf Hilfsangebote hingewiesen. Wiederholte Verstöße können zur dauerhaften Sperrung des Kontos führen. OpenAI zufolge meldet das Unternehmen jeden von ihm erkannten CSAM-Fall an das NCMEC.

Warum das gerade jetzt wichtig ist

Politiker drängen auf strengere Sicherheitsvorschriften für KI, und mehrere Bundesstaaten haben bereits Gesetze zu synthetischen CSAM-Darstellungen verabschiedet. Indem OpenAI den Klassifikator kostenlos anbietet und Ermittler schult, will das Unternehmen die Flut gefälschter Bilder eindämmen, die echte Missbrauchsfälle überdecken kann, und Strafverfolgungsbehörden einen klareren Weg zu raschem Handeln eröffnen. Die Generalstaatsanwälte zufolge ist der Ansatz noch experimentell, stellt aber ein neues Modell der Zusammenarbeit zwischen einem Tech-Unternehmen und Kinderschutzbehörden dar.

Warum es wichtig ist

Für die Allgemeinheit könnte der Klassifikator bedeuten, dass illegale Inhalte schneller entfernt werden und harmlose Bilder seltener fälschlich gemeldet werden. Strafverfolgungsbehörden erhalten klarere Hinweise darauf, welche Bilder tatsächlich untersucht werden müssen, und können so möglicherweise mehr reale Opfer schützen. Wie wirksam das Tool im Praxiseinsatz ist, wird jedoch noch geprüft. Außerdem bleibt es Organisationen vorbehalten, die OpenAIs Überprüfungskriterien erfüllen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.