Över 400 appar och webbplatser med koppling till varandra har använts för att dölja verktyg för att skapa explicita AI-genererade bilder och videor, visar en granskning av WIRED. Appar såg ofta ut att erbjuda vanliga tjänster, som att skapa porträtt av husdjur eller ge språkundervisning. Under vissa förhållanden kunde de i stället ladda ett dolt gränssnitt där användare laddade upp bilder för att placera personer i sexuella scener.
I gränssnittet fanns mallar med scenarier som ”våldtäkt i sovrum” och ”hot med kniv”. WIRED upptäckte att apparna marknadsfördes med explicita annonser på Facebook och Instagram, som ibland länkade direkt till Apples eller Googles appbutiker. Annonserna och apparna ingår i ett bredare mönster: I tidigare rapportering har WIRED hittat Meta-annonser med AI-genererat material som föreställer sexuella övergrepp mot barn, däribland bilder av verkliga barn.
Hur dolde apparna sitt syfte?
Enligt forskare kontrollerade apparna uppgifter som användarens plats och språk innan de avgjorde vilken version som skulle visas. Att klicka på en tillhörande Meta-annons verkar ha varit en utlösande faktor för att ladda den explicita versionen. Säkerhetsforskaren Maël Le Touz på Infoblox identifierade nästan 500 domäner med koppling till varandra. Många körde samma kod och hänvisade till varandra.
Enligt en analys av forskaren Paul Bouchaud började apparna dyka upp mot slutet av 2025. Vid ett tillfälle registrerades omkring 30 nya appar i veckan, och 27 fanns på Google Play i september. Enligt hans forskning hade apparna sammanlagt över 350 000 nedladdningar. En av dem, DiffAI, hade laddats ner över 100 000 gånger från Play Store innan Google tog bort den, strax innan WIRED kontaktade företaget.
Vad gjorde plattformarna?
Apple tog bort 19 appar, däribland appen för porträtt av husdjur Viefur, efter att WIRED delat sina fynd. Apples talesperson Adam Dema uppgav att utvecklarna ändrade vilka webbplatser apparna laddade efter godkännandet och ersatte det godkända innehållet med pornografi. Apple säger att bolaget det senaste året har stängt av tiotusentals appar för liknande ”lockbytesmetoder”. Google hade tagit bort de flesta apparna innan WIRED kontaktade företaget, men svarade inte på tidningens begäran om en kommentar.
Forskare uppgav att verksamheten verkade involvera kinesiska utvecklare. WIRED hittade kopplingar till det Hongkongregistrerade företaget KeLing Technology Limited, bland annat kontaktuppgifter och kopplingar via webbplatser, men företaget svarade inte på frågor. Meta uppgav att bolaget hade förbjudit KeLing att annonsera 2025 och senare vidtagit åtgärder mot konton, sidor och annonser med koppling till domänerna. WIRED rapporterade att liknande annonser och appar fortfarande förekom när granskningen avslutades.
Varför det spelar roll
Den som installerar en app som verkar harmlös efter att ha sett en annons kan stöta på dolda verktyg som gör uppladdade bilder till explicita deepfakes. Granskningen dokumenterar borttagningar och åtgärder, men uppger också att liknande annonser och appar fortfarande förekom när rapporteringen avslutades. Den visar inte hur många enskilda användare som faktiskt stötte på det dolda gränssnittet.
