Oossa

OpenAI、捜査機関向けにCSAM判定ツールを無償提供

OpenAIは、AI生成の児童性的虐待画像を誤検知を抑えて検出するツールを発表。審査を通過した団体に無償で提供する。

著者: Oossa公開日: 2 分で読める

Clint Patterson · Unsplash

2026年11月16日、ワシントンD.C.で開かれた記者説明会で、OpenAIは児童性的虐待素材(CSAM)を対象とする新たな画像判定ツールを発表した。同社によると、このシステムは実際の画像とAI生成画像の両方を検出し、確認担当者が処理する誤検知を減らせるという。OpenAIは、選定した非営利団体や法執行機関など、審査を通過したパートナーにツールを無償提供する。また、開発者向けにこうしたコンテンツの検出方法をまとめたガイダンスも公開する。

この発表の背景には、全米行方不明・被搾取児童センター(NCMEC)のCyberTiplineにAI関連の通報が殺到している状況がある。NCMECが受けた生成AIによるCSAMの通報は、2024年の67,000件から2025年には400,000件に増加した。当局者は、この急増によって通報窓口の業務が限界に達しかねないと述べている。ノースカロライナ州のジェフ・ジャクソン司法長官は増加を「爆発的」と表現し、新たなツールがなければ同センターが使命を果たせなくなる恐れがあると警告した。

判定ツールの仕組みとOpenAIのその他の対策

OpenAIの判定ツールは、これまでに見たことのない視覚的特徴をもとに画像ごとにスコアを付け、虐待の可能性が高いコンテンツを確認担当者に優先的に示す。パートナーとの初期テストでは、虐待画像を同じ数だけ検出しながら、フラグを付ける画像を48%減らせたと同社は報告した。また、フラグが付いた画像に実際の虐待が含まれている可能性は、従来の2倍だった。このシステムにはAI生成CSAMを特定する専用フラグもあり、OpenAIは同種の機能として初めてだとしている。

判定ツールとあわせて、OpenAIは子どもを性的に描くコンテンツを求めたユーザーに警告画面を表示するようChatGPTを更新する。初回の違反ではアカウントが24時間停止され、支援窓口の案内が表示される。繰り返し違反した場合は、アカウントが永久に閉鎖される可能性がある。OpenAIは、検出したCSAMをすべてNCMECに通報するとしている。

いま重要な理由

政策担当者はAI安全規制の強化を求めており、すでに合成CSAMを対象とする法律を制定した州も複数ある。OpenAIは判定ツールを無償で提供し、捜査担当者を訓練することで、実際の虐待を見えにくくしかねない偽画像の大量流入を抑え、法執行機関が迅速に対応しやすくしたい考えだ。司法長官らによると、この手法はまだ実験段階だが、テクノロジー企業と児童保護当局の新たな協力モデルとなる。

なぜ重要か

一般の人にとって、この判定ツールは違法コンテンツの削除を迅速化し、問題のない画像が誤って通報される可能性を減らすことにつながる。法執行機関は、どの画像を本格的に捜査すべきかを判断しやすくなり、より多くの実際の被害者を守れる可能性がある。ただし、実運用での有効性はまだ評価中で、利用できるのはOpenAIの審査基準を満たす組織に限られる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。