Én aktør, hundrevis av utbyttbare fasader
En WIRED-undersøkelse publisert 2. november fant et nettverk med mer enn 400 sammenknyttede apper og domener som framstiller seg som vanlige tjenester — KI-bilder av kjæledyr, språkundervisning, treningsveiledning — mens de skjuler verktøy som lager seksuelt eksplisitte bilder og videoer av bilder brukeren laster opp. Noen av de skjulte grensesnittene reklamerer for scener som framstiller voldtekt eller en kniv mot halsen til en kvinne.
Skjulingen er tilsiktet. Forskerne fortalte WIRED at appene kontakter en server når de lastes ned og sender opplysninger som brukerens plassering, språk og enhetsidentifikatorer, og at serveren avgjør om det annonserte innholdet vises eller om deepfakegrensesnittet lastes i stedet. Det var slik de slapp gjennom appbutikkenes gjennomgang.
“Dette er en organisert, kommersielt drevet operasjon: én aktør bak hundrevis av utbyttbare apper og domener, kamuflert for å klare App Store-gjennomgangen og drevet fram av titusenvis av Meta-annonser under falske betalernavn”, sa Paul Bouchaud, hovedforsker i den ideelle organisasjonen AI Forensics, som undersøkte nettverket. “De regner ikke med at håndhevingen tar dem igjen, og så langt har den ikke gjort det.”
Omfanget, og hvem som fjernet hva
Maël Le Touz, trusselforsker i sikkerhetsselskapet Infoblox, identifiserte nesten 500 sammenknyttede domener. “De kjører samme kode, og de refererer alle til hverandre”, sa han til WIRED. Registreringene begynte mot slutten av 2025 og skjøt i været om våren; på et tidspunkt ble rundt 30 av appene og nettstedene registrert hver uke. Tjuesju lå ute i Googles Play Store i september, lastet ned mer enn 350 000 ganger til sammen, og mange var merket som egnet for alle aldre.
En av de mest populære, DiffAI, ble opprettet i desember 2025 og lastet ned mer enn 100 000 ganger fra Play Store. En brukeromtale på siden opplyste at appen inneholdt maler for å lage materiale med seksuelle overgrep mot barn og ikke gjennomførte aldersverifisering. Google fjernet den kort tid før WIRED tok kontakt, og hadde alt fjernet de fleste av nettverkets apper før spørsmålet kom. Google svarte ikke på WIRED-s forespørsel om kommentar.
Apple fjernet 19 apper etter at WIRED overleverte de tilknyttede domenene, blant dem en app for kjæledyrbilder kalt Viefur. “Vi gjennomgår hver app før den publiseres, og disse appene fulgte reglene våre da vi gjennomgikk dem”, sa Apple-talsperson Adam Dema. “Etter godkjenningen endret utviklerne nettstedet appen henter innhold fra, og erstattet det vi godkjente med pornografisk innhold.” Apple opplyser at selskapet har suspendert titusenvis av apper for slike bytter det siste året.
Meta, hvis annonser på Facebook og Instagram først førte forskerne til nettverket, opplyste at selskapet har gått til tiltak mot 11 600 annonsekontoer, mer enn 4 700 bedriftssider, 5 200 brukere og 15 000 sider knyttet til domenene, og blokkert 209 av appene fra å annonsere på plattformene.
Hvem som står bak
Appene og domenene ser ut til å drives av kinesiske utviklere og en enhet registrert i Hongkong som heter KeLing Technology Limited, ifølge WIRED-s gjennomgang av domenene og hvordan tjenestene fungerer. E-postadresser knyttet til enheten svarte ikke på gjentatte henvendelser, og etter kontakten syntes de offentlige koblingene mellom selskapet og deepfakeverktøyene å bli slettet. Betalingene gikk gjennom Apple Pay og Google Pay.
Å følge med på
Deler av nettverket ble omtalt av danske journalister i september, og annonsene som førte dit har alt utløst tilsynsundersøkelser i flere land. WIRED opplyser at liknende annonser og apper fortsatt ble publisert på de samme plattformene da undersøkelsen ble avsluttet — noe som gjør prøven på denne runden av tiltak til om de neste 400 domenene dukker opp.
