Qué alega la demanda
Una demanda de Nueva York contra TikTok, desprecintada el miércoles 7 de octubre, alega que la compañía realizó experimentos con miles de usuarios que intentaron activar una de sus funciones de seguridad y entregó a algunos una versión que no funcionaba.
La función es Algo Refresh, un control que debería reiniciar las recomendaciones del usuario para que pueda salir de un flujo de contenido no deseado o potencialmente dañino. Según la demanda, recogida por Reuters, los usuarios que recibieron la versión inoperante creyeron que el reinicio se había producido. Sus feeds no cambiaron. Los usuarios del grupo que recibió la versión operativa sí vieron cambiar los suyos.
La demanda afirma que las pruebas se repitieron a lo largo de 2023 y que ambos grupos se compararon según el tiempo que la gente pasaba en el sitio y el efecto sobre los ingresos publicitarios. Entre los sometidos a prueba había niños y adolescentes que habían activado la función.
La objeción interna
Un responsable de producto del equipo de Bienestar Digital de TikTok objetó en un chat interno citado en el escrito. La función, escribió, “trata de transparencia y control del algoritmo”, y “un grupo placebo entra en conflicto total con eso”.
La demanda hace una segunda acusación sobre el mismo control: que TikTok dijo a los usuarios que Algo Refresh reiniciaría su algoritmo de recomendación cuando el cambio era en realidad solo temporal.
Otra acusación del pleito, adelantada antes por Bloomberg, es que TikTok desactivó al azar funciones de seguridad que limitaban la exposición a contenido dañino para algunos usuarios. La demanda señala que un adolescente de Nueva York que estaba en ese grupo de prueba murió por suicidio, y que revisiones internas mostraron que se le había mostrado un gran volumen de contenido sobre autolesión y suicidio.
En qué punto está el caso
La fiscal general Letitia James demandó a TikTok en 2024. Estas acusaciones se añadieron en una versión actualizada de la demanda presentada a finales de agosto y mantenida bajo sello hasta que un juez ordenó abrirla. El caso es uno de más de dos docenas presentados por estados de EE. UU. que acusan a la plataforma de diseñar un servicio adictivo para menores y de engañar a los usuarios sobre sus herramientas de seguridad.
En septiembre TikTok cerró el primer caso estatal que iba a juicio, con el compromiso de pagar a Alabama hasta 300 millones de dólares y de cambiar el funcionamiento de la plataforma para los adolescentes de ese estado.
TikTok ha negado en términos generales las acusaciones de Nueva York en sus escritos judiciales y afirma que la seguridad de los usuarios jóvenes es una prioridad. Un portavoz dijo a Reuters que la compañía “mejora continuamente” y que, como la mayoría de las empresas, prueba con regularidad sus funciones para entender cómo se comportan en el mundo real. El portavoz añadió que las acusaciones tergiversan el funcionamiento de Algo Refresh.
Por qué importa más allá de TikTok
Todo esto es una acusación en una demanda civil, no un hecho probado. Pero lo que se alega es concreto y no es exclusivo de una empresa: que un control ofrecido a los usuarios para dirigir un sistema de recomendación fue a su vez objeto de un experimento, con el resultado medido en duración de sesión e ingresos publicitarios.
Las plataformas hacen pruebas A/B con casi todo, y un control de seguridad es una función más dentro de esa maquinaria. El argumento de la demanda es que no lo es: que una vez que una empresa dice al usuario que un interruptor reinicia el algoritmo, enviar un interruptor que no hace nada es una afirmación sobre el producto, no una medición de él.
Qué vigilar
Si el tribunal permite que avancen las acusaciones sobre el placebo, y si alguno de los otros casos estatales adopta la misma tesis. El acuerdo de Alabama mostró lo que vale una fecha de juicio; un segundo acuerdo con esta acusación encima valdría más.
