# OpenAI бесплатно предоставит детектор материалов о насилии над детьми

> Инструмент OpenAI выявляет созданные ИИ изображения сексуального насилия над детьми с меньшим числом ложных срабатываний. Его бесплатно получат организации, прошедшие проверку.

Oossa · 2026-11-16 · https://oossa.com/ru/openai-launches-free-csam-classifier-to-help-investigators

На пресс-брифинге в Вашингтоне 16 ноября 2026 года OpenAI представила новый классификатор изображений, предназначенный для выявления материалов сексуального насилия над детьми (CSAM). По словам компании, система распознаёт как реальные, так и созданные ИИ изображения насилия и сокращает число ложных срабатываний, которые приходится проверять специалистам. OpenAI бесплатно предоставит классификатор отобранным некоммерческим организациям, правоохранительным органам и другим партнёрам, прошедшим проверку. Компания также публикует рекомендации для разработчиков по обнаружению такого контента.

Нововведение появилось на фоне резкого роста числа сообщений, связанных с ИИ, на горячую линию CyberTipline Национального центра по поиску пропавших и эксплуатируемых детей (NCMEC). В 2025 году NCMEC зарегистрировал 400 000 сообщений о CSAM, созданных с помощью генеративного ИИ, против 67 000 годом ранее. По словам официальных лиц, из-за такого наплыва горячая линия может не справиться с нагрузкой. Генеральный прокурор Северной Каролины Джефф Джексон назвал рост «взрывным» и предупредил, что без новых инструментов ведомство может не справиться со своей задачей.

## Как работает классификатор и что ещё добавила OpenAI

Классификатор OpenAI присваивает каждому изображению оценку на основе ранее не встречавшихся ему визуальных признаков, помогая специалистам в первую очередь проверять наиболее вероятные случаи насилия. По результатам раннего тестирования с партнёрами компании, инструмент помечает на 48 % меньше изображений, но при этом обнаруживает столько же изображений с насилием. Среди отмеченных инструментом изображений вероятность обнаружить реальные случаи насилия вдвое выше. В системе также есть отдельная метка для созданных ИИ материалов CSAM — OpenAI утверждает, что это первая такая функция.

Вместе с выпуском классификатора OpenAI добавляет в ChatGPT предупреждения для пользователей, которые запрашивают сексуализированный контент с участием детей. При первом нарушении доступ к аккаунту приостанавливается на 24 часа, а пользователю показывают ссылки на ресурсы помощи. Повторные нарушения могут привести к безвозвратному закрытию аккаунта. OpenAI заявляет, что будет сообщать в NCMEC о каждом выявленном случае CSAM.

## Почему это важно сейчас

Законодатели добиваются ужесточения правил безопасности ИИ, а несколько штатов уже приняли законы о синтетических материалах CSAM. Бесплатно предоставляя классификатор и обучая следователей, OpenAI рассчитывает уменьшить поток поддельных изображений, которые могут затруднять выявление реальных случаев насилия, и помочь правоохранительным органам быстрее принимать меры. По словам генеральных прокуроров, подход пока экспериментальный, но он открывает новую модель сотрудничества технологической компании с представителями органов защиты детей.

## Факты

- OpenAI представила классификатор 16 ноября 2026 года на брифинге в Вашингтоне.
- В 2025 году горячая линия CyberTipline NCMEC получила 400 000 сообщений о CSAM, связанных с ИИ, против 67 000 в 2024 году.
- В ходе ранних испытаний классификатор помечал на 48 % меньше изображений, обнаруживая при этом столько же изображений с насилием.
- Отмеченные новым инструментом изображения вдвое чаще содержали реальные случаи насилия.
- За первый запрос сексуализированного контента с участием детей в ChatGPT аккаунт пользователя приостанавливается на 24 часа.

## Почему это важно

Для обычных людей классификатор может означать более быстрое удаление незаконного контента и меньший риск того, что безобидные изображения ошибочно сочтут подозрительными. Правоохранительные органы смогут точнее определять, какие изображения действительно требуют расследования, и, возможно, лучше защищать реальных жертв. Однако эффективность инструмента в реальных условиях ещё оценивается, а доступ к нему пока получат только организации, прошедшие проверку OpenAI.

## Источники и ссылки

1. [OpenAI wants to stop deepfakes from overwhelming child abuse tiplines](https://www.theverge.com/policy/1034527/openai-csam-classifier) – The Verge, 2026-11-16
2. [OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM](https://techcrunch.com/2026/11/16/openai-releases-a-new-image-classifier-and-chatgpt-warnings-to-combat-csam/) – TechCrunch, 2026-11-16

Обновлено: 2026-11-16
