متا در ۷ اکتبر ۲۰۲۶ از ابزارهای جدید هوش مصنوعی برای شناسایی تبلیغاتی خبر داد که راهی برای دسترسی به محتوای سوءاستفاده جنسی از کودکان باز می‌کنند. این شرکت همچنین اعلام کرد که در نیمه نخست سال، ۳۳٫۲ میلیون مورد از این محتوا را از فیس‌بوک و اینستاگرام حذف کرده است. بیش از ۹۷٪ موارد حذف‌شده پیش از گزارش کاربران شناسایی شده بودند.
ابزارهای جدید چگونه کار می‌کنند
جدیدترین مدل زبانی بزرگ متا، نوعی هوش مصنوعی که متن را پردازش می‌کند، به‌دنبال «نشانه‌گذاری مسیر» می‌گردد؛ یعنی تبلیغاتی که عادی به نظر می‌رسند اما کاربران را به سایت‌های غیرقانونی می‌فرستند. این سامانه فقط متن تبلیغ را بررسی نمی‌کند، بلکه پیوند را دنبال می‌کند تا مقصد آن را ببیند و اگر مقصد قوانین را نقض کند، می‌تواند دسترسی به آن را مسدود کند. متا همچنین یک «عامل هوش مصنوعی آزمون نفوذ» اضافه کرده که می‌کوشد سامانه‌های ایمنی خود شرکت را دور بزند و به مهندسان کمک می‌کند پیش از سوءاستفاده افراد خاطی، ضعف‌ها را برطرف کنند. اسکن‌های بیشتری نیز برای یافتن محتوای بهره‌کشی‌ای به کار گرفته می‌شوند که از چشم ابزارهای قدیمی‌تر دور مانده بود؛ افزون بر این، پلتفرم در حال بهبود شناسایی متخلفان تکراری است که با حساب‌های تازه بازمی‌گردند.
گسترش اقدامات برای ایمنی کودکان
اقدامات تازه مبتنی بر هوش مصنوعی به مجموعه قابلیت‌های ایمنی کودکان می‌پیوندند که متا در سال ۲۰۲۶ معرفی کرده است؛ از جمله کنترل‌های والدین برای Meta AI، حساب‌های واتس‌اپ برای پیش‌نوجوانان و هشدارهای اینستاگرام هنگام جست‌وجوی محتوای خودآزاری از سوی نوجوانان. متا در اوت پذیرفت برای حل‌وفصل شکایتی که ۲۹ ایالت آمریکا درباره نگرانی‌های مربوط به ایمنی کودکان مطرح کرده بودند، تا ۱۸ میلیارد دلار بپردازد.
چرا مهم است
برای کاربران عادی، این هوش مصنوعی می‌تواند مانع هدایت پنهانی افراد، به‌ویژه کودکان، از طریق تبلیغات آسیب‌زا به محتوای غیرقانونی شود. ممکن است والدین لینک‌های پرخطر کمتری در فیدها ببینند؛ بااین‌حال، اثربخشی ابزارهای تازه هنوز در حال ارزیابی است و شرکت نتایج هیچ حسابرسی مستقلی را منتشر نکرده است.
