Én aktør, hundredvis af udskiftelige facader
En WIRED-undersøgelse offentliggjort den 2. november fandt et netværk med mere end 400 forbundne apps og domæner, der udgiver sig for at være almindelige tjenester — AI-billeder af kæledyr, sprogundervisning, træningsvejledning — mens de skjuler værktøjer, der laver seksuelt eksplicitte billeder og videoer ud fra fotos, brugeren uploader. Nogle af de skjulte grænseflader reklamerer for scener, der fremstiller voldtægt eller en kniv mod en kvindes hals.
Skjulningen er bevidst. Forskerne fortalte WIRED, at apperne kontakter en server, når de hentes, og sender oplysninger som brugerens placering, sprog og enhedsidentifikatorer, hvorefter serveren afgør, om det annoncerede indhold vises, eller om deepfake-grænsefladen indlæses i stedet. Det var sådan, de slap gennem appbutikkernes gennemgang.
“Det her er en organiseret, kommercielt drevet operation: én aktør bag hundredvis af udskiftelige apps og domæner, camoufleret til at klare App Store-gennemgangen og skubbet frem af titusindvis af Meta-annoncer under falske betalernavne”, sagde Paul Bouchaud, ledende forsker i den almennyttige organisation AI Forensics, der undersøgte netværket. “De regner ikke med, at håndhævelsen indhenter dem, og indtil nu har den ikke gjort det.”
Omfanget, og hvem der fjernede hvad
Maël Le Touz, trusselforsker i sikkerhedsfirmaet Infoblox, fandt næsten 500 forbundne domæner. “De kører samme kode, og de henviser alle til hinanden”, sagde han til WIRED. Registreringerne begyndte sidst i 2025 og steg kraftigt i foråret; på et tidspunkt blev omkring 30 af apperne og websiderne registreret hver uge. Syvogtyve lå på Googles Play Store i september, hentet mere end 350.000 gange i alt, og mange var markeret som egnede for alle aldre.
En af de mest populære, DiffAI, blev oprettet i december 2025 og hentet mere end 100.000 gange fra Play Store. En brugeranmeldelse på siden oplyste, at appen indeholdt skabeloner til at lave materiale med seksuelt misbrug af børn og ikke foretog aldersverifikation. Google fjernede den kort før, WIRED tog kontakt, og havde allerede fjernet de fleste af netværkets apps, inden spørgsmålet faldt. Google svarede ikke på WIREDs anmodning om en kommentar.
Apple fjernede 19 apps, efter at WIRED havde overdraget de tilknyttede domæner, blandt dem en app til kæledyrsbilleder kaldet Viefur. “Vi gennemgår hver app, før den udgives, og disse apps overholdt vores regler, da vi gennemgik dem”, sagde Apples talsperson Adam Dema. “Efter godkendelsen ændrede udviklerne det website, appen henter sit indhold fra, og erstattede det, vi godkendte, med pornografisk indhold.” Apple oplyser, at selskabet har suspenderet titusindvis af apps for den slags ombytning i det seneste år.
Meta, hvis annoncer på Facebook og Instagram først førte forskerne til netværket, oplyste at have grebet ind mod 11.600 annoncekonti, mere end 4.700 virksomhedssider, 5.200 brugere og 15.000 sider knyttet til domænerne, og blokeret 209 af apperne fra at annoncere på platformene.
Hvem der står bag
Apperne og domænerne ser ud til at blive drevet af kinesiske udviklere og en enhed registreret i Hongkong ved navn KeLing Technology Limited, ifølge WIREDs gennemgang af domænerne og af, hvordan tjenesterne fungerer. E-mailadresser knyttet til enheden svarede ikke på gentagne henvendelser, og efter kontakten syntes de offentlige forbindelser mellem selskabet og deepfake-værktøjerne at blive slettet. Betalingerne gik gennem Apple Pay og Google Pay.
Hvad man skal følge
Dele af netværket blev beskrevet af danske journalister i september, og annoncerne, der førte dertil, har allerede udløst tilsynsundersøgelser i flere lande. WIRED oplyser, at lignende annoncer og apps stadig blev udgivet på de samme platforme, da undersøgelsen blev afsluttet — hvilket gør prøven på denne runde af indgreb til, om de næste 400 domæner dukker op.
