En aktör, hundratals utbytbara fasader
En granskning från WIRED som publicerades 2 november hittade ett nätverk med mer än 400 sammankopplade appar och domäner som utger sig för att vara vanliga tjänster — AI-bilder av husdjur, språkundervisning, träningscoachning — samtidigt som de döljer verktyg som genererar sexuellt explicita bilder och videor utifrån foton användaren laddar upp. Några av de dolda gränssnitten marknadsför scener som skildrar våldtäkt eller en kniv mot en kvinnas hals.
Döljandet är avsiktligt. Forskarna uppgav för WIRED att apparna anropar en server när de laddas ned och skickar uppgifter som användarens plats, språk och enhetsidentifierare, varpå servern avgör om det annonserade innehållet visas eller om deepfakegränssnittet laddas i stället. Det är så de kom igenom appbutikernas granskning.
“Det här är en organiserad, kommersiellt driven verksamhet: en aktör bakom hundratals utbytbara appar och domäner, maskerade för att klara App Store-granskningen och drivna genom tiotusentals Meta-annonser med falska betalarnamn”, sade Paul Bouchaud, huvudforskare vid den ideella organisationen AI Forensics, som granskade nätverket. “De räknar inte med att tillsynen hinner upp dem, och det har den inte gjort.”
Omfattningen, och vem som tog bort vad
Maël Le Touz, hotforskare vid säkerhetsföretaget Infoblox, identifierade nästan 500 sammankopplade domäner. “De kör samma kod och de refererar alla till varandra”, sade han till WIRED. Registreringarna började i slutet av 2025 och sköt i höjden under våren; som mest registrerades omkring 30 av apparna och webbplatserna varje vecka. Tjugosju låg uppe på Googles Play Store i september, med sammanlagt mer än 350 000 nedladdningar, och många var klassade som lämpliga för alla åldrar.
En av de populäraste, DiffAI, skapades i december 2025 och laddades ned mer än 100 000 gånger från Play Store. En användarrecension på sidan uppgav att appen innehöll mallar för att skapa material med sexuella övergrepp mot barn och inte hade någon åldersverifiering. Google tog bort den strax innan WIRED hörde av sig, och hade redan tagit bort merparten av nätverkets appar innan frågan ställdes. Google svarade inte på WIRED:s begäran om kommentar.
Apple tog bort 19 appar efter att WIRED lämnat över de kopplade domänerna, bland dem en app för husdjursbilder som hette Viefur. “Vi granskar varje app innan den publiceras, och dessa appar följde våra regler när vi granskade dem”, sade Apples talesperson Adam Dema. “Efter godkännandet bytte utvecklarna den webbplats appen hämtar sitt innehåll från och ersatte det vi godkänt med pornografiskt innehåll.” Apple uppger att företaget stängt av tiotusentals appar för sådana bytesknep det senaste året.
Meta, vars annonser på Facebook och Instagram först ledde forskarna till nätverket, uppgav att företaget vidtagit åtgärder mot 11 600 annonskonton, mer än 4 700 företagssidor, 5 200 användare och 15 000 sidor kopplade till domänerna, och blockerat 209 av apparna från att annonsera på plattformarna.
Vem som ligger bakom
Apparna och domänerna verkar drivas av kinesiska utvecklare och en enhet registrerad i Hongkong som heter KeLing Technology Limited, enligt WIRED:s genomgång av domänerna och hur tjänsterna fungerar. E-postadresser kopplade till enheten svarade inte på upprepade förfrågningar, och efter kontakten tycktes de offentliga kopplingarna mellan företaget och deepfakeverktygen raderas. Betalningarna gick via Apple Pay och Google Pay.
Att följa
Delar av nätverket rapporterades av danska journalister i september, och annonserna som ledde dit har redan utlöst tillsynsutredningar i flera länder. WIRED uppger att liknande annonser och appar fortfarande publicerades på samma plattformar när granskningen avslutades — vilket gör provet på den här omgången åtgärder till om de nästa 400 domänerna dyker upp.
