SNSで再投稿・圧縮された動画、AI偽造検出器の検出率は低迷

研究者らは、AI生成・編集動画1万本に再投稿時の圧縮やカメラ由来のノイズを加えたベンチマーク「Reality Perception Gap（RPG）」を公開した。このデータセットで既存のディープフェイク検出器18種類を試したところ、誤検知率を1％未満に抑えた場合、偽動画を15％以上検出できたものはなかった。研究によると、検出率が低下する要因は2つある。圧縮前のコンテンツや生成モデルのスタイルの違いと、圧縮によって低レベルの痕跡が失われることだ。著者らは、今後の検出器はこうした劣化したデータを使って学習し、低レベルの特徴、時間的な手がかり、意味的な手がかりを組み合わせる必要があるとしている。