O que a ação alega
Uma ação movida em Nova York contra o TikTok, retirada do sigilo na quarta-feira, 7 de outubro, alega que a empresa realizou experimentos com milhares de usuários que tentaram ativar um de seus recursos de segurança e entregou a parte deles uma versão que não funcionava.
O recurso é o Algo Refresh, um controle que deveria reiniciar as recomendações do usuário para que ele saia de um fluxo de conteúdo indesejado ou potencialmente nocivo. Segundo a ação, noticiada pela Reuters, os usuários que receberam a versão inoperante acreditaram que a reinicialização havia ocorrido. Seus feeds não mudaram. Os usuários do grupo que recebeu a versão funcional viram os seus mudarem.
A ação afirma que os testes foram repetidos ao longo de 2023 e que os dois grupos foram comparados pelo tempo que as pessoas passavam no site e pelo efeito sobre a receita de publicidade. Entre os testados havia crianças e adolescentes que haviam ativado o recurso.
A objeção interna
Um gerente de produto da equipe de Bem-Estar Digital do TikTok fez objeção em um chat interno citado no processo. O recurso, escreveu ele, “trata de transparência e controle do algoritmo” — e “um grupo placebo entra em conflito completo com isso”.
A ação faz uma segunda acusação sobre o mesmo controle: que o TikTok disse aos usuários que o Algo Refresh reiniciaria seu algoritmo de recomendação quando a mudança era, na verdade, apenas temporária.
Outra alegação do processo, antes noticiada pela Bloomberg, é que o TikTok desligou aleatoriamente, para alguns usuários, recursos de segurança que limitavam a exposição a conteúdo nocivo. A ação diz que um adolescente de Nova York que estava nesse grupo de teste morreu por suicídio, e que revisões internas mostraram que lhe havia sido exibido um grande volume de conteúdo sobre automutilação e suicídio.
Em que pé está o caso
A procuradora-geral Letitia James processou o TikTok em 2024. Essas alegações foram acrescentadas em uma versão atualizada da petição apresentada no fim de agosto e mantida sob sigilo até que um juiz determinasse sua abertura. O caso é um de mais de duas dezenas movidos por estados americanos que acusam a plataforma de desenhar um serviço viciante para crianças e de enganar os usuários sobre suas ferramentas de segurança.
Em setembro o TikTok fechou acordo no primeiro caso estadual que iria a júri, concordando em pagar ao Alabama até 300 milhões de dólares e em mudar o funcionamento da plataforma para adolescentes naquele estado.
O TikTok negou de forma ampla as alegações de Nova York em suas manifestações judiciais e diz que a segurança dos usuários jovens é uma prioridade. Um porta-voz disse à Reuters que a empresa “faz melhorias continuamente” e que, como a maioria das empresas, testa regularmente recursos para entender como funcionam no mundo real. O porta-voz afirmou que as alegações distorcem o funcionamento do Algo Refresh.
Por que isso importa além do TikTok
Tudo isso são alegações em uma ação civil, não fatos comprovados. Mas o que se alega é específico e não é exclusivo de uma empresa: que um controle oferecido aos usuários para orientar um sistema de recomendação foi ele próprio objeto de um experimento, com o resultado medido em tempo de sessão e receita de anúncios.
As plataformas fazem teste A/B de quase tudo, e um controle de segurança é um recurso como outro qualquer nessa esteira. O argumento da ação é que não é: que, uma vez que uma empresa diz ao usuário que um botão reinicia o algoritmo, entregar um botão que não faz nada é uma afirmação sobre o produto, não uma medição dele.
O que observar
Se o tribunal deixa as alegações de placebo avançarem, e se algum dos outros casos estaduais adota a mesma tese. O acordo do Alabama mostrou quanto vale uma data de julgamento; um segundo acordo com essa alegação junto valeria mais.
