Ce que la plainte reproche
Une plainte new-yorkaise contre TikTok, descellée le mercredi 7 octobre, affirme que l’entreprise a mené des expériences sur des milliers d’utilisateurs qui tentaient d’activer l’une de ses fonctions de sécurité, en remettant à certains une version qui ne fonctionnait pas.
La fonction s’appelle Algo Refresh : elle est censée réinitialiser les recommandations d’un utilisateur pour lui permettre de sortir d’un flux de contenus indésirables ou potentiellement nocifs. Selon la plainte, rapportée par Reuters, les utilisateurs ayant reçu la version inopérante ont cru que la réinitialisation avait eu lieu. Leur fil n’a pas changé. Ceux du groupe ayant reçu la version fonctionnelle ont vu le leur changer.
La plainte indique que les tests ont été répétés en 2023 et que les deux groupes ont été comparés sur le temps passé sur le site et sur l’effet produit sur les recettes publicitaires. Parmi les personnes testées figuraient des enfants et des adolescents ayant activé la fonction.
L’objection interne
Un responsable produit de l’équipe Bien-être numérique de TikTok a objecté dans une conversation interne citée au dossier. La fonction, a-t-il écrit, « porte sur la transparence et le contrôle de l’algorithme » — et « un groupe placebo est en contradiction totale avec cela ».
La plainte formule un second reproche sur la même commande : TikTok aurait dit aux utilisateurs qu’Algo Refresh réinitialiserait leur algorithme de recommandation alors que le changement n’était en réalité que temporaire.
Un autre élément du dossier, déjà rapporté par Bloomberg, affirme que TikTok a désactivé au hasard, pour certains utilisateurs, des fonctions de sécurité limitant l’exposition aux contenus nocifs. La plainte indique qu’un adolescent de New York faisant partie de ce groupe de test est mort par suicide, et que des revues internes montraient qu’on lui avait présenté un volume important de contenus d’automutilation et de suicide.
Où en est l’affaire
La procureure générale Letitia James a assigné TikTok en 2024. Ces éléments ont été ajoutés dans une version actualisée de la plainte déposée fin août, restée sous scellés jusqu’à ce qu’un juge ordonne son ouverture. L’affaire est l’une des plus de deux douzaines engagées par des États américains, qui accusent la plateforme d’avoir conçu un service rendant les enfants dépendants et d’avoir trompé les utilisateurs sur ses outils de sécurité.
En septembre, TikTok a transigé dans la première affaire d’État devant aller au procès, acceptant de verser jusqu’à 300 millions de dollars à l’Alabama et de modifier le fonctionnement de la plateforme pour les adolescents de cet État.
TikTok a globalement nié les allégations new-yorkaises dans ses écritures et affirme que la sécurité des jeunes utilisateurs est une priorité. Un porte-parole a déclaré à Reuters que l’entreprise « améliore continuellement » ses produits et que, comme la plupart des entreprises, elle teste régulièrement ses fonctions pour comprendre leur comportement réel. Le porte-parole a ajouté que les allégations donnent une image fausse du fonctionnement d’Algo Refresh.
Pourquoi cela dépasse TikTok
Tout ceci relève d’allégations dans une plainte civile, pas de faits établis. Mais ce qui est reproché est précis et n’est pas propre à une seule entreprise : une commande offerte aux utilisateurs pour orienter un système de recommandation aurait elle-même fait l’objet d’une expérience, dont le résultat se mesurait en durée de session et en recettes publicitaires.
Les plateformes testent presque tout en A/B, et une commande de sécurité est une fonction comme une autre dans cette chaîne. L’argument de la plainte est qu’elle ne l’est pas : dès lors qu’une entreprise dit à un utilisateur qu’un bouton réinitialise l’algorithme, livrer un bouton qui ne fait rien relève de l’affirmation sur le produit et non de sa mesure.
Ce qu’il faut suivre
Si le tribunal laisse prospérer les griefs sur le placebo, et si d’autres affaires d’État reprennent la même thèse. L’accord trouvé en Alabama a montré ce que vaut une date d’audience ; un second accord assorti de ce grief vaudrait davantage.
