Um operador, centenas de fachadas descartáveis
Uma investigação da WIRED publicada a 2 de novembro encontrou uma rede de mais de 400 aplicações e domínios ligados que se apresentam como serviços comuns — fotos de animais com IA, aulas de línguas, treino desportivo — enquanto escondem ferramentas que geram imagens e vídeos sexualmente explícitos a partir de fotografias carregadas pelo utilizador. Algumas das interfaces escondidas anunciam cenas que representam violação ou uma faca ao pescoço de uma mulher.
O encobrimento é deliberado. Os investigadores disseram à WIRED que as aplicações contactam um servidor quando são descarregadas, enviando dados como a localização do utilizador, o idioma e identificadores do dispositivo, e o servidor decide se mostra o conteúdo anunciado ou se carrega a interface de deepfakes. Foi assim que passaram a revisão das lojas.
“É uma operação organizada e explorada comercialmente: um operador por trás de centenas de aplicações e domínios descartáveis, camuflados para passar a revisão da App Store e impulsionados por dezenas de milhares de anúncios da Meta com nomes de pagadores falsos”, disse Paul Bouchaud, investigador principal da organização sem fins lucrativos AI Forensics, que investigou a rede. “Não esperam que a fiscalização os alcance e, até agora, não alcançou.”
A escala, e quem retirou o quê
Maël Le Touz, investigador de ameaças na empresa de segurança Infoblox, identificou quase 500 domínios ligados. “Correm o mesmo código e referenciam-se todos uns aos outros”, disse à WIRED. Os registos começaram no final de 2025 e disparam na primavera; num determinado momento registavam-se cerca de 30 destas aplicações e sites por semana. Vinte e sete estavam ativas na Play Store da Google em setembro, com mais de 350.000 descargas no conjunto, e muitas estavam classificadas como adequadas para todas as idades.
Uma das mais populares, a DiffAI, foi criada em dezembro de 2025 e descarregada mais de 100.000 vezes da Play Store. Uma avaliação de utilizador na ficha dizia que a aplicação continha modelos para criar material de abuso sexual de crianças e não fazia qualquer verificação de idade. A Google retirou-a pouco antes de a WIRED a contactar, e já havia retirado a maioria das aplicações da rede antes de ser questionada. A Google não respondeu ao pedido de comentário da WIRED.
A Apple retirou 19 aplicações depois de a WIRED lhe entregar os domínios associados, entre elas uma app de fotos de animais chamada Viefur. “Revemos cada aplicação antes de ser publicada, e estas cumpriam as nossas regras quando as analisámos”, disse Adam Dema, porta-voz da Apple. “Depois da aprovação, os seus desenvolvedores mudaram o site de onde a aplicação retira o conteúdo, substituindo o que aprovámos por conteúdo pornográfico.” A Apple diz ter suspendido dezenas de milhares de aplicações por este tipo de troca no último ano.
A Meta, cujos anúncios no Facebook e no Instagram levaram primeiro os investigadores à rede, disse ter agido contra 11.600 contas publicitárias, mais de 4.700 páginas de empresa, 5.200 utilizadores e 15.000 páginas ligadas aos domínios, e bloqueado a publicidade de 209 destas aplicações nas suas plataformas.
Quem está por trás
As aplicações e os domínios parecem ser geridos por desenvolvedores chineses e por uma entidade registada em Hong Kong chamada KeLing Technology Limited, segundo a análise da WIRED aos domínios e ao funcionamento dos serviços. Os endereços de correio eletrónico ligados à entidade não responderam a pedidos repetidos e, após o contacto, as ligações públicas entre a empresa e as ferramentas de deepfakes pareceram ser apagadas. Os pagamentos passavam pela Apple Pay e pela Google Pay.
O que observar
Partes da rede foram noticiadas por jornalistas dinamarqueses em setembro, e os anúncios que a ela conduziam já provocaram investigações de reguladores em vários países. A WIRED diz que, quando terminou a reportagem, continuavam a ser publicados anúncios e aplicações semelhantes nas mesmas plataformas — o que reduz o teste desta ronda de medidas a uma pergunta: se os próximos 400 domínios aparecerão.
