Исследователи представили тестовый набор Reality Perception Gap (RPG), в который вошли 10 000 созданных ИИ и отредактированных видео с артефактами, возникающими при повторной публикации и съёмке на камеру. При проверке 18 существующих детекторов дипфейков ни один не распознал более 15% поддельных видео, сохранив долю ложных срабатываний ниже 1%. Авторы исследования связывают ухудшение результатов с двумя причинами: изменением содержания и стиля генерации до сжатия, а также потерей низкоуровневых следов после сжатия. По их мнению, будущие детекторы нужно обучать на таких ухудшенных данных и наделять способностью учитывать низкоуровневые, временные и семантические признаки.
Почему это важно
Правоохранительные органы и платформы могут пропускать большинство дипфейков, повторно загруженных в сеть, что ограничивает их возможности противодействовать дезинформации.
