Vad stämningen gör gällande
En stämningsansökan mot TikTok i New York, som öppnades onsdagen den 7 oktober, gör gällande att bolaget genomförde experiment på tusentals användare som försökte slå på en av dess säkerhetsfunktioner och gav vissa av dem en version som inte fungerade.
Funktionen heter Algo Refresh och ska nollställa en användares rekommendationer så att hen kan ta sig ur ett flöde av oönskat eller potentiellt skadligt innehåll. Enligt stämningen, som Reuters rapporterar om, trodde användarna som fick den icke fungerande versionen att nollställningen hade skett. Deras flöden ändrades inte. Användarna i gruppen som fick den fungerande versionen såg sina flöden förändras.
I stämningen uppges testerna ha körts upprepade gånger under 2023, och att de två grupperna jämfördes utifrån hur länge människor stannade på sajten och utifrån effekten på annonsintäkterna. Bland dem som testades fanns barn och tonåringar som själva hade slagit på funktionen.
Invändningen internt
En produktansvarig i TikToks grupp för digitalt välbefinnande invände i en intern chatt som citeras i handlingen. Funktionen, skrev personen, “handlar om algoritmisk transparens och kontroll” — och “en placebogrupp står i fullständig konflikt med det”.
Stämningen innehåller ett andra påstående om samma kontroll: att TikTok sa till användarna att Algo Refresh skulle nollställa deras rekommendationsalgoritm när förändringen i själva verket bara var tillfällig.
Ett separat påstående i målet, som Bloomberg rapporterat om tidigare, är att TikTok slumpmässigt stängde av säkerhetsfunktioner som begränsade exponeringen för skadligt innehåll för vissa användare. Stämningen uppger att en tonårspojke i New York som ingick i den testgruppen tog sitt liv, och att interna genomgångar visade att han hade visats en stor mängd innehåll om självskada och självmord.
Var målet står
Delstatens justitieminister Letitia James stämde TikTok 2024. De här påståendena lades till i en uppdaterad version av stämningen som lämnades in i slutet av augusti och hölls hemlig tills en domare beslutade att öppna den. Målet är ett av över två dussin som amerikanska delstater drivit, med anklagelsen att plattformen utformats för att göra barn beroende och att användarna vilseletts om säkerhetsverktygen.
I september gjorde TikTok upp i det första delstatsmål som var på väg till rättegång, och gick med på att betala Alabama upp till 300 miljoner dollar och att ändra hur plattformen fungerar för tonåringar i delstaten.
TikTok har i stora drag förnekat New Yorks påståenden i sina inlagor och säger att unga användares säkerhet är en prioritet. En talesperson sa till Reuters att bolaget “gör förbättringar hela tiden” och att det, som de flesta företag, regelbundet testar funktioner för att förstå hur de fungerar i verkligheten. Talespersonen sa att påståendena ger en felaktig bild av hur Algo Refresh fungerar.
Varför det spelar roll bortom TikTok
Allt detta är påståenden i en civilrättslig stämning, inte fastslagna fakta. Men det som påstås är konkret och inte unikt för ett företag: att en kontroll som erbjöds användarna för att styra ett rekommendationssystem själv blev föremål för ett experiment, med utfallet mätt i sessionslängd och annonsintäkter.
Plattformar A/B-testar nästan allt, och en säkerhetskontroll är en funktion som vilken annan i den maskinen. Stämningens argument är att den inte är det: att när ett bolag väl har sagt till en användare att en knapp nollställer algoritmen, är en knapp som inte gör någonting ett påstående om produkten snarare än en mätning av den.
Vad man bör följa
Om domstolen låter placebopåståendena gå vidare, och om något av de andra delstatsmålen tar upp samma resonemang. Uppgörelsen i Alabama visade vad ett rättegångsdatum är värt; en andra uppgörelse med det här påståendet på bordet vore värd mer.
