# Meta、児童虐待サイトに誘導する広告を検出するAIツールを導入

> Metaによると、新たなAIは一見無害に見える広告から違法な児童性的虐待コンテンツへ誘導するケースを検出でき、すでに数百万件の関連コンテンツに対処した。

Oossa · 2026-10-07 · https://oossa.com/ja/meta-launches-ai-tools-to-spot-ads-that-lead-to-child-abuse-sites

Metaは2026年10月7日、児童性的虐待コンテンツへの入り口となる広告を見つけるための新たな人工知能（AI）ツールを発表した。また、年の前半にFacebookとInstagramからこうしたコンテンツを3,320万件削除したと明らかにした。削除のうち97%超は、ユーザーから報告される前に行われた。

## 新ツールの仕組み

Metaの最新の大規模言語モデル（テキストを処理するAI）は、「道しるべ」となる広告を探す。見た目は通常の広告でも、ユーザーを違法サイトに誘導するものだ。広告文を確認するだけでなく、リンク先をたどって内容を調べ、規則に違反していればリンク先をブロックできる。また、自社の安全対策を突破しようとする「レッドチーミングAIエージェント」も導入した。悪意ある人物に弱点を悪用される前に、エンジニアが修正できるよう支援する。さらに、従来のツールでは見逃していた搾取コンテンツを検出するための追加スキャンを実施し、新しいアカウントで戻ってくる常習者の検出も改善している。

## 子どもの安全対策を拡充

今回のAI対策は、Metaが2026年に導入した一連の子どもの安全機能に加わる。これには、Meta AIのペアレンタルコントロール、WhatsAppのプレティーン向けアカウント、10代の利用者が自傷行為に関するコンテンツを検索した際にInstagramが表示するアラートなどがある。8月には、子どもの安全をめぐり米国の29州が起こした訴訟の和解として、Metaは最大180億ドルを支払うことで合意した。

## 事実

- Metaは2026年上半期、FacebookとInstagramで児童性的搾取コンテンツ3,320万件に対処した。
- そのうち97%超は、ユーザーから報告される前に検出された。
- インドでは同様のコンテンツ530万件を削除し、98%超を報告前に検出した。
- 新たなAIツールは、広告文だけでなく、ユーザーを違法サイトに誘導する「道しるべ」となる広告を重点的に検出する。
- Metaは2026年8月、子どもの安全をめぐる米国29州との訴訟の和解として、最大180億ドルを支払うことで合意した。

## なぜ重要か

このAIにより、特に子どもが、有害な広告を通じて気づかないうちに違法コンテンツへ誘導されるのを防げる可能性がある。保護者はフィードに表示される危険なリンクが減ると期待できる一方、新ツールの効果はまだ検証中で、Metaは独立した監査結果を公表していない。

## 出典と参考資料

1. [Meta rolls out new AI tools to detect ads that secretly lead to child sexual abuse material](https://techcrunch.com/2026/10/07/meta-rolls-out-new-ai-tools-to-detect-ads-that-secretly-lead-to-child-sexual-abuse-material/) – TechCrunch, 2026-10-07

最終更新: 2026-10-07