Meer dan 400 aan elkaar gekoppelde apps en websites zijn gebruikt om tools te verbergen waarmee expliciete, door AI gegenereerde beelden en video’s kunnen worden gemaakt, blijkt uit onderzoek van WIRED. De apps deden zich vaak voor als gewone diensten, zoals apps om huisdierportretten te maken of taallessen te volgen. Onder bepaalde omstandigheden konden ze in plaats daarvan een verborgen interface laden, waarin gebruikers foto’s konden uploaden om mensen in seksuele scènes af te beelden.
De interface bevatte sjablonen met scenario’s als ‘verkrachting in de slaapkamer’ en ‘bedreiging met een mes’. WIRED ontdekte dat de apps werden aangeprezen in expliciete advertenties op Facebook en Instagram, die soms rechtstreeks naar de appwinkels van Apple of Google leidden. De advertenties en apps maken deel uit van een breder patroon: eerder berichtte WIRED over advertenties van Meta met AI-gegenereerd materiaal van seksueel misbruik van kinderen, waaronder afbeeldingen van echte kinderen.
Hoe verborgen de apps hun doel?
Volgens onderzoekers controleerden de apps onder meer de locatie en taal van een gebruiker voordat ze bepaalden welke versie ze lieten zien. Het aanklikken van een bijbehorende Meta-advertentie lijkt een van de triggers te zijn geweest voor het laden van de expliciete versie. Beveiligingsonderzoeker Maël Le Touz van Infoblox ontdekte bijna 500 gekoppelde domeinen. Veel daarvan draaiden dezelfde code en verwezen naar elkaar.
Volgens een analyse van onderzoeker Paul Bouchaud verschenen de apps tegen het einde van 2025. Op een gegeven moment werden er wekelijks zo’n 30 geregistreerd en in september stonden er 27 in Google Play. Uit zijn onderzoek bleek dat de apps samen meer dan 350.000 keer waren gedownload. Eén app, DiffAI, was meer dan 100.000 keer gedownload in de Play Store voordat Google de app verwijderde, kort voordat WIRED contact opnam met het bedrijf.
Wat deden de platforms?
Apple verwijderde 19 apps, waaronder de app voor huisdierportretten Viefur, nadat WIRED zijn bevindingen had gedeeld. Apple-woordvoerder Adam Dema zei dat ontwikkelaars na goedkeuring de websites veranderden die hun apps laadden, en goedgekeurde inhoud vervingen door pornografie. Apple zegt het afgelopen jaar tienduizenden apps te hebben geschorst vanwege vergelijkbare ‘bait-and-switch’-tactieken. Google had de meeste apps al verwijderd voordat WIRED contact opnam, maar reageerde niet op het verzoek van het medium om commentaar.
Volgens onderzoekers leek de operatie betrokkenheid van Chinese ontwikkelaars te omvatten. WIRED vond aanwijzingen voor banden met het in Hongkong geregistreerde KeLing Technology Limited, waaronder contactgegevens en koppelingen met websites, maar het bedrijf reageerde niet op verzoeken om commentaar. Meta zei dat het KeLing in 2025 had verboden te adverteren en later actie had ondernomen tegen accounts, pagina’s en advertenties die bij de domeinen hoorden. WIRED meldde dat soortgelijke advertenties en apps nog steeds verschenen toen het onderzoek werd afgerond.
Waarom het ertoe doet
Wie via een advertentie een alledaags ogende app installeert, kan verborgen tools aantreffen waarmee geüploade foto’s worden omgezet in expliciete deepfakes. Het onderzoek beschrijft verwijderingen en maatregelen, maar meldt ook dat soortgelijke advertenties en apps nog verschenen toen de verslaggeving werd afgerond. Het maakt niet duidelijk hoeveel gebruikers de verborgen interface daadwerkelijk te zien kregen.
