# OpenAI stellt Ermittlern kostenlosen CSAM-Klassifikator bereit

> OpenAI hat ein Tool vorgestellt, das KI-generierte Darstellungen sexuellen Kindesmissbrauchs erkennt, weniger Fehlalarme auslöst und geprüften Organisationen kostenlos zur Verfügung steht.

Oossa · 2026-11-16 · https://oossa.com/de/openai-launches-free-csam-classifier-to-help-investigators

Bei einer Pressekonferenz am 16. November 2026 in Washington, D.C., hat OpenAI einen neuen Bildklassifikator vorgestellt, der Darstellungen sexuellen Kindesmissbrauchs (CSAM) erkennen soll. Das Unternehmen zufolge kann das System sowohl echte als auch KI-generierte Missbrauchsdarstellungen erkennen und reduziert die Zahl der Fehlalarme, die geprüft werden müssen. OpenAI stellt den Klassifikator ausgewählten gemeinnützigen Organisationen, Strafverfolgungsbehörden und anderen geprüften Partnern kostenlos zur Verfügung. Außerdem veröffentlicht das Unternehmen Leitlinien für Entwickler, wie sie solche Inhalte erkennen können.

Der Schritt erfolgt, während die CyberTipline des National Center for Missing and Exploited Children (NCMEC) von Meldungen zu KI-generierten Inhalten überflutet wird. 2025 registrierte das NCMEC 400,000 Meldungen zu KI-generierten CSAM-Darstellungen – gegenüber 67,000 im Vorjahr. Behördenvertreter warnen, der Anstieg könnte die Tipline überfordern. Der Generalstaatsanwalt von North Carolina, Jeff Jackson, bezeichnete die Zunahme als „explosiv“ und warnte, die Behörde könne ihren Auftrag ohne neue Werkzeuge möglicherweise nicht mehr erfüllen.

## So funktioniert der Klassifikator – und was OpenAI sonst ändert

Der Klassifikator von OpenAI bewertet jedes Bild anhand visueller Merkmale, die er zuvor noch nicht gesehen hat, und lenkt Prüfer auf die wahrscheinlichsten Missbrauchsdarstellungen. In ersten Tests mit Partnern meldete das Unternehmen, das Tool markiere 48 % weniger Bilder, erfasse aber weiterhin dieselbe Zahl an Missbrauchsdarstellungen. Die markierten Bilder enthielten doppelt so häufig tatsächlich Missbrauch. Das System verfügt außerdem über eine spezielle Kennzeichnung für KI-generierte CSAM-Darstellungen – laut OpenAI die erste ihrer Art.

Zusätzlich zum Klassifikator aktualisiert OpenAI ChatGPT um Warnhinweise für Nutzer, die sexualisierte Inhalte mit Kindern anfordern. Beim ersten Verstoß wird das Konto für 24 Stunden pausiert; Nutzer werden zudem auf Hilfsangebote hingewiesen. Wiederholte Verstöße können zur dauerhaften Sperrung des Kontos führen. OpenAI zufolge meldet das Unternehmen jeden von ihm erkannten CSAM-Fall an das NCMEC.

## Warum das gerade jetzt wichtig ist

Politiker drängen auf strengere Sicherheitsvorschriften für KI, und mehrere Bundesstaaten haben bereits Gesetze zu synthetischen CSAM-Darstellungen verabschiedet. Indem OpenAI den Klassifikator kostenlos anbietet und Ermittler schult, will das Unternehmen die Flut gefälschter Bilder eindämmen, die echte Missbrauchsfälle überdecken kann, und Strafverfolgungsbehörden einen klareren Weg zu raschem Handeln eröffnen. Die Generalstaatsanwälte zufolge ist der Ansatz noch experimentell, stellt aber ein neues Modell der Zusammenarbeit zwischen einem Tech-Unternehmen und Kinderschutzbehörden dar.

## Die Fakten

- OpenAI stellte den Klassifikator am 16. November 2026 bei einer Pressekonferenz in Washington, D.C., vor.
- Die CyberTipline des NCMEC erhielt 2025 400,000 Meldungen zu KI-generierten CSAM-Darstellungen, gegenüber 67,000 im Jahr 2024.
- In ersten Tests markierte der Klassifikator 48 % weniger Bilder und erfasste dabei dieselbe Zahl an Missbrauchsdarstellungen.
- Bei den vom neuen Tool markierten Bildern war die Wahrscheinlichkeit, dass sie tatsächlichen Missbrauch zeigten, doppelt so hoch.
- Nutzer, die ChatGPT erstmals nach sexualisierten Inhalten mit Kindern fragen, erhalten eine 24-stündige Kontopause.

## Warum es wichtig ist

Für die Allgemeinheit könnte der Klassifikator bedeuten, dass illegale Inhalte schneller entfernt werden und harmlose Bilder seltener fälschlich gemeldet werden. Strafverfolgungsbehörden erhalten klarere Hinweise darauf, welche Bilder tatsächlich untersucht werden müssen, und können so möglicherweise mehr reale Opfer schützen. Wie wirksam das Tool im Praxiseinsatz ist, wird jedoch noch geprüft. Außerdem bleibt es Organisationen vorbehalten, die OpenAIs Überprüfungskriterien erfüllen.

## Quellen und Referenzen

1. [OpenAI wants to stop deepfakes from overwhelming child abuse tiplines](https://www.theverge.com/policy/1034527/openai-csam-classifier) – The Verge, 2026-11-16
2. [OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM](https://techcrunch.com/2026/11/16/openai-releases-a-new-image-classifier-and-chatgpt-warnings-to-combat-csam/) – TechCrunch, 2026-11-16

Zuletzt aktualisiert: 2026-11-16
