I ricercatori hanno presentato il benchmark Reality Perception Gap (RPG), che applica compressione da ricondivisione e artefatti della fotocamera a 10.000 video generati o modificati con l’IA. Testati su questo insieme, 18 rilevatori di deepfake esistenti non sono riusciti a identificare più del 15% dei video falsi mantenendo i falsi allarmi sotto l’1%. Secondo lo studio, il calo è dovuto a due fattori: il cambiamento nei contenuti e nello stile dei generatori prima della compressione, e la perdita di tracce di basso livello dopo la compressione. Gli autori suggeriscono che i rilevatori futuri debbano essere addestrati su dati degradati di questo tipo e combinare indizi di basso livello, temporali e semantici.
Perché conta
Le forze dell’ordine e le piattaforme potrebbero non individuare la maggior parte dei video deepfake ricondivisi, limitando la loro capacità di contrastare la disinformazione.
