Hva søksmålet hevder
Et søksmål mot TikTok i New York, som ble offentliggjort onsdag 7. oktober, hevder at selskapet gjennomførte eksperimenter på tusenvis av brukere som forsøkte å slå på en av sikkerhetsfunksjonene, og ga noen av dem en versjon som ikke virket.
Funksjonen heter Algo Refresh og skal nullstille en brukers anbefalinger slik at vedkommende kommer seg ut av en strøm av uønsket eller potensielt skadelig innhold. Ifølge søksmålet, som Reuters omtaler, trodde brukerne som fikk den virkningsløse versjonen at nullstillingen hadde funnet sted. Strømmen deres endret seg ikke. Brukerne i gruppen som fikk den fungerende versjonen, så sin endre seg.
Søksmålet sier at testene ble kjørt gjentatte ganger i 2023, og at de to gruppene ble sammenlignet på hvor lenge folk ble værende på nettstedet og på effekten på annonseinntektene. Blant dem som ble testet, var barn og tenåringer som selv hadde slått på funksjonen.
Innvendingen internt
En produktansvarlig i TikToks gruppe for digital velvære innvendte i en intern chat som er sitert i dokumentet. Funksjonen, skrev vedkommende, “handler om algoritmisk åpenhet og kontroll” — og “en placebogruppe står i full konflikt med det”.
Søksmålet inneholder en andre påstand om samme kontroll: at TikTok fortalte brukerne at Algo Refresh ville nullstille anbefalingsalgoritmen deres, mens endringen i realiteten bare var midlertidig.
En egen påstand i saken, tidligere omtalt av Bloomberg, er at TikTok tilfeldig slo av sikkerhetsfunksjoner som begrenset eksponeringen for skadelig innhold for enkelte brukere. Søksmålet sier at en tenåringsgutt i New York som var i den testgruppen, tok sitt eget liv, og at interne gjennomganger viste at han var blitt vist en stor mengde innhold om selvskading og selvmord.
Hvor saken står
Delstatens justisminister Letitia James saksøkte TikTok i 2024. Disse påstandene ble lagt til i en oppdatert versjon av søksmålet som ble levert i slutten av august og holdt hemmelig til en dommer bestemte at det skulle åpnes. Saken er én av over to dusin reist av amerikanske delstater som anklager plattformen for å ha utformet en tjeneste som gjør barn avhengige, og for å ha villedet brukerne om sikkerhetsverktøyene.
I september inngikk TikTok forlik i den første delstatssaken som skulle for retten, og gikk med på å betale Alabama inntil 300 millioner dollar og å endre hvordan plattformen virker for tenåringer i delstaten.
TikTok har i hovedsak avvist New Yorks påstander i rettsdokumentene og sier at sikkerheten til unge brukere er en prioritet. En talsperson sa til Reuters at selskapet “gjør forbedringer hele tiden”, og at det, som de fleste selskaper, jevnlig tester funksjoner for å forstå hvordan de virker i virkeligheten. Talspersonen sa at påstandene gir et feilaktig bilde av hvordan Algo Refresh fungerer.
Hvorfor dette betyr noe utover TikTok
Alt dette er påstander i et sivilt søksmål, ikke fastslåtte fakta. Men det som hevdes er konkret og ikke unikt for ett selskap: at en kontroll som ble tilbudt brukerne for å styre et anbefalingssystem, selv ble gjenstand for et eksperiment, med utfallet målt i sesjonslengde og annonseinntekter.
Plattformer A/B-tester nesten alt, og en sikkerhetskontroll er en funksjon som alle andre i den maskinen. Søksmålets argument er at den ikke er det: når et selskap først har sagt til en bruker at en knapp nullstiller algoritmen, er en knapp som ikke gjør noe, en påstand om produktet snarere enn en måling av det.
Hva man bør følge
Om retten lar placebopåstandene gå videre, og om noen av de andre delstatssakene tar opp samme resonnement. Forliket i Alabama viste hva en rettsdato er verdt; et nytt forlik med denne påstanden på bordet ville vært verdt mer.
