Hvad søgsmålet hævder
Et søgsmål mod TikTok i New York, der blev offentliggjort onsdag den 7. oktober, hævder, at selskabet gennemførte forsøg på tusindvis af brugere, der forsøgte at slå en af dets sikkerhedsfunktioner til, og gav nogle af dem en version, der ikke virkede.
Funktionen hedder Algo Refresh og skal nulstille en brugers anbefalinger, så vedkommende kan komme ud af en strøm af uønsket eller potentielt skadeligt indhold. Ifølge søgsmålet, som Reuters omtaler, troede de brugere, der fik den virkningsløse version, at nulstillingen havde fundet sted. Deres feed ændrede sig ikke. Brugerne i gruppen, der fik den fungerende version, så deres feed ændre sig.
Søgsmålet anfører, at forsøgene blev kørt gentagne gange i 2023, og at de to grupper blev sammenlignet på, hvor længe folk blev på sitet, og på effekten på annonceindtægterne. Blandt de testede var børn og teenagere, der selv havde slået funktionen til.
Indvendingen internt
En produktansvarlig i TikToks gruppe for digital trivsel gjorde indsigelse i en intern chat, der citeres i dokumentet. Funktionen, skrev vedkommende, “handler om algoritmisk gennemsigtighed og kontrol” — og “en placebogruppe er i fuldstændig konflikt med det”.
Søgsmålet rejser en anden påstand om den samme kontrol: at TikTok fortalte brugerne, at Algo Refresh ville nulstille deres anbefalingsalgoritme, mens ændringen i virkeligheden kun var midlertidig.
En særskilt påstand i sagen, tidligere omtalt af Bloomberg, er, at TikTok tilfældigt slog sikkerhedsfunktioner fra, der begrænsede eksponeringen for skadeligt indhold for nogle brugere. Søgsmålet anfører, at en teenagedreng i New York, der var i den testgruppe, tog sit eget liv, og at interne gennemgange viste, at han var blevet vist en stor mængde indhold om selvskade og selvmord.
Hvor sagen står
Delstatens justitsminister Letitia James sagsøgte TikTok i 2024. Disse påstande blev tilføjet i en opdateret udgave af søgsmålet, der blev indleveret i slutningen af august og holdt hemmelig, indtil en dommer bestemte, at det skulle åbnes. Sagen er én af over to dusin anlagt af amerikanske delstater, der beskylder platformen for at have designet en tjeneste, der gør børn afhængige, og for at have vildledt brugerne om sikkerhedsværktøjerne.
I september indgik TikTok forlig i den første delstatssag, der skulle for retten, og accepterede at betale Alabama op til 300 millioner dollar og at ændre, hvordan platformen virker for teenagere i delstaten.
TikTok har i det store hele afvist New Yorks påstande i retsdokumenterne og siger, at unge brugeres sikkerhed er en prioritet. En talsperson sagde til Reuters, at selskabet “løbende laver forbedringer”, og at det, som de fleste virksomheder, jævnligt tester funktioner for at forstå, hvordan de virker i den virkelige verden. Talspersonen sagde, at påstandene giver et forkert billede af, hvordan Algo Refresh fungerer.
Hvorfor det betyder noget ud over TikTok
Alt dette er påstande i et civilt søgsmål, ikke fastslåede fakta. Men det, der hævdes, er konkret og ikke enestående for ét selskab: at en kontrol, der blev tilbudt brugerne for at styre et anbefalingssystem, selv blev genstand for et forsøg, hvor resultatet blev målt i sessionslængde og annonceindtægter.
Platforme A/B-tester næsten alt, og en sikkerhedskontrol er en funktion som enhver anden i den maskine. Søgsmålets argument er, at den ikke er det: når et selskab først har sagt til en bruger, at en knap nulstiller algoritmen, er en knap, der ikke gør noget, en påstand om produktet snarere end en måling af det.
Hvad man skal følge
Om retten lader placebopåstandene gå videre, og om nogen af de andre delstatssager tager samme tilgang. Forliget i Alabama viste, hvad en retsdato er værd; et nyt forlig med denne påstand på bordet ville være mere værd.
