На пресс-брифинге в Вашингтоне 16 ноября 2026 года OpenAI представила новый классификатор изображений, предназначенный для выявления материалов сексуального насилия над детьми (CSAM). По словам компании, система распознаёт как реальные, так и созданные ИИ изображения насилия и сокращает число ложных срабатываний, которые приходится проверять специалистам. OpenAI бесплатно предоставит классификатор отобранным некоммерческим организациям, правоохранительным органам и другим партнёрам, прошедшим проверку. Компания также публикует рекомендации для разработчиков по обнаружению такого контента.
Нововведение появилось на фоне резкого роста числа сообщений, связанных с ИИ, на горячую линию CyberTipline Национального центра по поиску пропавших и эксплуатируемых детей (NCMEC). В 2025 году NCMEC зарегистрировал 400 000 сообщений о CSAM, созданных с помощью генеративного ИИ, против 67 000 годом ранее. По словам официальных лиц, из-за такого наплыва горячая линия может не справиться с нагрузкой. Генеральный прокурор Северной Каролины Джефф Джексон назвал рост «взрывным» и предупредил, что без новых инструментов ведомство может не справиться со своей задачей.
Как работает классификатор и что ещё добавила OpenAI
Классификатор OpenAI присваивает каждому изображению оценку на основе ранее не встречавшихся ему визуальных признаков, помогая специалистам в первую очередь проверять наиболее вероятные случаи насилия. По результатам раннего тестирования с партнёрами компании, инструмент помечает на 48 % меньше изображений, но при этом обнаруживает столько же изображений с насилием. Среди отмеченных инструментом изображений вероятность обнаружить реальные случаи насилия вдвое выше. В системе также есть отдельная метка для созданных ИИ материалов CSAM — OpenAI утверждает, что это первая такая функция.
Вместе с выпуском классификатора OpenAI добавляет в ChatGPT предупреждения для пользователей, которые запрашивают сексуализированный контент с участием детей. При первом нарушении доступ к аккаунту приостанавливается на 24 часа, а пользователю показывают ссылки на ресурсы помощи. Повторные нарушения могут привести к безвозвратному закрытию аккаунта. OpenAI заявляет, что будет сообщать в NCMEC о каждом выявленном случае CSAM.
Почему это важно сейчас
Законодатели добиваются ужесточения правил безопасности ИИ, а несколько штатов уже приняли законы о синтетических материалах CSAM. Бесплатно предоставляя классификатор и обучая следователей, OpenAI рассчитывает уменьшить поток поддельных изображений, которые могут затруднять выявление реальных случаев насилия, и помочь правоохранительным органам быстрее принимать меры. По словам генеральных прокуроров, подход пока экспериментальный, но он открывает новую модель сотрудничества технологической компании с представителями органов защиты детей.
Почему это важно
Для обычных людей классификатор может означать более быстрое удаление незаконного контента и меньший риск того, что безобидные изображения ошибочно сочтут подозрительными. Правоохранительные органы смогут точнее определять, какие изображения действительно требуют расследования, и, возможно, лучше защищать реальных жертв. Однако эффективность инструмента в реальных условиях ещё оценивается, а доступ к нему пока получат только организации, прошедшие проверку OpenAI.