Plus de 400 applis et sites web liés entre eux ont servi à dissimuler des outils permettant de créer des images et des vidéos explicites générées par IA, selon une enquête de WIRED. Ces applis se présentaient souvent comme des services ordinaires, tels que des générateurs de portraits d’animaux ou des cours de langue. Dans certaines conditions, elles pouvaient plutôt afficher une interface cachée où les utilisateurs téléversaient des photos afin de mettre en scène des personnes dans des scènes sexuelles.
L’interface proposait des modèles portant des intitulés tels que « viol dans une chambre » et « menace au couteau ». WIRED a constaté que ces applis étaient promues par des publicités explicites sur Facebook et Instagram, parfois avec un lien direct vers les boutiques d’applications d’Apple ou de Google. Ces publicités et applis s’inscrivent dans une tendance plus large : de précédentes enquêtes de WIRED ont révélé des publicités Meta montrant des contenus pédocriminels générés par IA, y compris des images d’enfants réels.
Comment les applis dissimulaient-elles leur objectif ?
Selon des chercheurs, les applis vérifiaient des informations comme la localisation et la langue de l’utilisateur avant de décider quelle version afficher. Cliquer sur une publicité Meta associée semble être l’un des éléments déclencheurs du chargement de la version explicite. Le chercheur en sécurité Maël Le Touz, d’Infoblox, a repéré près de 500 domaines liés entre eux, dont beaucoup exécutaient le même code et faisaient référence les uns aux autres.
D’après l’analyse du chercheur Paul Bouchaud, ces applis ont commencé à apparaître vers la fin de 2025. À un moment donné, une trentaine étaient enregistrées chaque semaine, et 27 étaient disponibles sur Google Play en septembre. Selon ses recherches, elles totalisaient plus de 350 000 téléchargements. Une appli, DiffAI, avait été téléchargée plus de 100 000 fois sur le Play Store avant que Google ne la supprime, peu avant que WIRED ne contacte l’entreprise.
Qu’ont fait les plateformes ?
Apple a supprimé 19 applis, dont l’appli de portraits d’animaux Viefur, après que WIRED lui a communiqué ses conclusions. Adam Dema, porte-parole d’Apple, a déclaré que des développeurs avaient modifié les sites web chargés par leurs applis après leur approbation, remplaçant les contenus autorisés par de la pornographie. Apple affirme avoir suspendu des dizaines de milliers d’applis au cours de l’année écoulée pour des pratiques similaires de « leurre puis substitution ». Google avait supprimé la plupart des applis avant que WIRED ne le contacte, mais n’a pas répondu à sa demande de commentaire.
Des chercheurs ont estimé que l’opération semblait impliquer des développeurs chinois. WIRED a relevé des liens avec KeLing Technology Limited, une société enregistrée à Hong Kong, notamment des coordonnées et des connexions entre sites web, mais l’entreprise n’a pas répondu aux demandes de commentaire. Meta a indiqué avoir interdit à KeLing de faire de la publicité en 2025, puis avoir pris des mesures contre des comptes, des pages et des publicités associés aux domaines. WIRED a rapporté que des publicités et des applis similaires continuaient d’apparaître à la fin de son enquête.
Pourquoi c'est important
Les personnes qui installent, depuis une publicité, une appli à l’apparence ordinaire peuvent découvrir des outils cachés qui transforment les photos téléversées en deepfakes explicites. L’enquête documente des suppressions et des mesures prises par les plateformes, mais indique aussi que des publicités et des applis similaires continuaient d’apparaître à la fin de ses recherches ; elle ne permet pas d’établir dans quelle mesure les utilisateurs ont été confrontés à l’interface cachée.
