7 октября 2026 года Meta объявила о запуске новых инструментов на основе искусственного интеллекта для поиска рекламы, которая может вести к материалам с сексуальной эксплуатацией детей. Компания также сообщила, что в первой половине года удалила 33.2 million таких публикаций из Facebook и Instagram. Более 97% удалений произошли до того, как пользователи пожаловались на контент.
Как работают новые инструменты
Последняя большая языковая модель Meta — ИИ, обрабатывающий текст, — ищет так называемые «наводящие ссылки»: объявления, которые выглядят безобидно, но перенаправляют пользователей на незаконные сайты. Система проверяет не только текст рекламы, но и переходит по ссылке, чтобы выяснить, куда она ведёт, и может заблокировать ресурс, если он нарушает правила. Компания также добавила «ИИ-агента для красной команды», который пытается обходить собственные системы безопасности Meta. Это помогает инженерам устранять уязвимости до того, как ими воспользуются злоумышленники. Дополнительные проверки помогают находить материалы с эксплуатацией детей, которые не выявляли прежние инструменты. Кроме того, платформа совершенствует выявление нарушителей, возвращающихся с новыми аккаунтами.
Более масштабные меры по защите детей
Новые меры на основе ИИ дополняют набор функций безопасности для детей, которые Meta представила в 2026 году. Среди них — родительский контроль для Meta AI, аккаунты WhatsApp для детей младше 13 лет и предупреждения в Instagram, когда подростки ищут материалы о причинении себе вреда. В августе Meta согласилась выплатить до $18 billion для урегулирования иска, поданного 29 штатами США из-за опасений по поводу безопасности детей.
Почему это важно
ИИ может помешать вредоносной рекламе незаметно перенаправлять людей, особенно детей, на незаконные материалы. Родители могут реже видеть в лентах опасные ссылки, однако эффективность новых инструментов пока оценивают, а независимые результаты аудита компания не публиковала.
