研究人员发布了“现实感知差距”(RPG)基准测试,收录10,000段AI生成和编辑的视频,并加入了二次转载压缩和相机伪影。研究人员用这套数据测试了18款现有深伪检测器,结果显示,在误报率低于1%的前提下,没有一款能识别出超过15%的伪造视频。研究指出,检测效果下降有两个原因:压缩前,视频内容和生成器风格发生变化;压缩后,低层级痕迹有所损失。作者建议,未来的检测器应使用这类劣化数据进行训练,并结合低层级、时间和语义线索。
为什么重要
执法机构和平台可能漏掉大多数被重新上传的深伪视频,限制其遏制虚假信息传播的能力。