Secondo un’inchiesta di WIRED, oltre 400 app e siti web collegati sono stati usati per nascondere strumenti che generano immagini e video espliciti con l’IA. Spesso le app si presentavano come servizi comuni, per esempio per creare ritratti di animali domestici o imparare le lingue. In determinate condizioni, però, potevano caricare un’interfaccia nascosta in cui gli utenti caricavano foto per inserire persone in scene sessuali.
L’interfaccia offriva modelli con scenari come «stupro in camera da letto» e «minaccia con un coltello». WIRED ha scoperto che le app venivano promosse con annunci espliciti su Facebook e Instagram, talvolta con collegamenti diretti agli app store di Apple o Google. Gli annunci e le app rientrano in un fenomeno più ampio: in precedenti inchieste, WIRED aveva trovato annunci di Meta con materiale di abusi sessuali su minori generato dall’IA, comprese immagini di bambini reali.
Come nascondevano il loro scopo?
Secondo i ricercatori, le app controllavano informazioni come la posizione e la lingua dell’utente prima di decidere quale versione mostrare. A quanto pare, fare clic su un annuncio Meta collegato era uno dei fattori che attivavano il caricamento della versione esplicita. Il ricercatore di sicurezza Maël Le Touz, di Infoblox, ha individuato quasi 500 domini collegati, molti dei quali eseguivano lo stesso codice e rimandavano l’uno all’altro.
Secondo l’analisi del ricercatore Paul Bouchaud, le app hanno iniziato a comparire verso la fine del 2025. A un certo punto ne venivano registrate circa 30 a settimana e, a settembre, 27 erano disponibili su Google Play. Nel complesso avevano totalizzato oltre 350.000 download, secondo la sua ricerca. Una di queste, DiffAI, aveva superato i 100.000 download sul Play Store prima che Google la rimuovesse, poco prima di essere contattata da WIRED.
Come hanno reagito le piattaforme?
Dopo che WIRED ha condiviso i risultati dell’inchiesta, Apple ha rimosso 19 app, tra cui quella per ritratti di animali Viefur. Il portavoce di Apple Adam Dema ha dichiarato che, dopo l’approvazione, gli sviluppatori avevano modificato i siti web caricati dalle app, sostituendo i contenuti approvati con materiale pornografico. Apple afferma di aver sospeso decine di migliaia di app nell’ultimo anno per tattiche simili, definite «bait-and-switch». Google aveva già rimosso la maggior parte delle app prima di essere contattata da WIRED, ma non ha risposto alla richiesta di commento della testata.
Secondo i ricercatori, dietro l’operazione sembravano esserci sviluppatori cinesi. WIRED ha trovato collegamenti con KeLing Technology Limited, società registrata a Hong Kong, tra cui dati di contatto e connessioni tra siti web; l’azienda non ha risposto alle richieste di commento. Meta ha dichiarato di aver vietato a KeLing di fare pubblicità nel 2025 e di aver poi preso provvedimenti contro account, pagine e annunci associati ai domini. WIRED ha riferito che, alla conclusione dell’inchiesta, continuavano a comparire annunci e app simili.
Perché conta
Chi installa tramite un annuncio un’app dall’aspetto innocuo potrebbe imbattersi in strumenti nascosti che trasformano le foto caricate in deepfake espliciti. L’inchiesta documenta rimozioni e interventi delle piattaforme, ma riferisce anche che, alla fine della raccolta, continuavano a comparire annunci e app simili; non chiarisce quanto spesso i singoli utenti si siano imbattuti nell’interfaccia nascosta.
