Metaは2026年10月7日、児童性的虐待コンテンツへの入り口となる広告を見つけるための新たな人工知能（AI）ツールを発表した。また、年の前半にFacebookとInstagramからこうしたコンテンツを3,320万件削除したと明らかにした。削除のうち97%超は、ユーザーから報告される前に行われた。
新ツールの仕組み
Metaの最新の大規模言語モデル（テキストを処理するAI）は、「道しるべ」となる広告を探す。見た目は通常の広告でも、ユーザーを違法サイトに誘導するものだ。広告文を確認するだけでなく、リンク先をたどって内容を調べ、規則に違反していればリンク先をブロックできる。また、自社の安全対策を突破しようとする「レッドチーミングAIエージェント」も導入した。悪意ある人物に弱点を悪用される前に、エンジニアが修正できるよう支援する。さらに、従来のツールでは見逃していた搾取コンテンツを検出するための追加スキャンを実施し、新しいアカウントで戻ってくる常習者の検出も改善している。
子どもの安全対策を拡充
今回のAI対策は、Metaが2026年に導入した一連の子どもの安全機能に加わる。これには、Meta AIのペアレンタルコントロール、WhatsAppのプレティーン向けアカウント、10代の利用者が自傷行為に関するコンテンツを検索した際にInstagramが表示するアラートなどがある。8月には、子どもの安全をめぐり米国の29州が起こした訴訟の和解として、Metaは最大180億ドルを支払うことで合意した。
なぜ重要か
このAIにより、特に子どもが、有害な広告を通じて気づかないうちに違法コンテンツへ誘導されるのを防げる可能性がある。保護者はフィードに表示される危険なリンクが減ると期待できる一方、新ツールの効果はまだ検証中で、Metaは独立した監査結果を公表していない。
