Dette fant 404 Media
OpenAI betaler hundrevis av innleide medarbeidere for å lese ekte ChatGPT-meldinger og vurdere chatbotens svar, meldte 404 Media 14. september. Arbeidet går under det interne kodenavnet Project Lily, som står i opplæringsmateriell nettstedet har gått gjennom. Dokumentene sier ikke hvilken modell vurderingene brukes til å trene.
404 Media sier at de har gått gjennom instruksjonsveiledninger, Slack-kanaler, vurderingssystemer og eksempler på ekte brukermeldinger, der noe av materialet var merket «Konfidensielt og proprietært». En av de innleide sa at jobben ga over 50 dollar i timen. Ifølge artikkelen rekrutteres arbeiderne gjennom et firma som heter Crossing Hurdles, og får lønn via Mercor.
Dette ser vurdererne
Vurdererne ser ikke brukernavn. Men meldingene kan komme med et «sammendrag av brukerens minner» basert på personens tidligere bruk av ChatGPT, og det inneholder av og til hvor vedkommende befinner seg, melder 404 Media.
OpenAI sier at personopplysninger fjernes før meldingene når vurdererne, ved hjelp av en modell selskapet kaller Privacy Filter. Selskapets egen dokumentasjon er åpen om begrensningene: «Som alle modeller kan Privacy Filter gjøre feil. Den kan overse uvanlige identifikatorer eller tvetydige private referanser.»
Slått på som standard
Om en samtale kan brukes på denne måten, avhenger av en innstilling som heter “Improve the model for everyone” (Forbedre modellen for alle). Den er slått på som standard for Free-, Plus- og Pro-kontoer og må skrus av av brukeren selv, mens den er av som standard på Enterprise-, Business- og Edu-abonnementer, ifølge 404 Media.
OpenAI ville ikke si om brukerne uttrykkelig har fått vite at mennesker, ikke bare programvare, kan lese chattene deres. Etter at saken ble publisert, viste selskapet 404 Media til en del av nettstedet sitt der det står at mennesker gjennomgår innhold for å «forbedre modellens ytelse».
Det europeiske spørsmålet
I Europa kan informasjonen til brukerne bety like mye som selve praksisen. The Next Web viser til EU-domstolens dom fra september 2025 i saken EDPS mot SRB, som nettstedet tolker som et krav om at et selskap må fortelle folk allerede når dataene samles inn at de vil gå til tredjeparter, uansett om disse tredjepartene kan identifisere dem eller ikke. The Next Web skriver at OpenAI ikke har opplyst hvor brukerne ble informert om at innleide gjennomgår samtalene.
Hvorfor det betyr noe nå
Menneskelig tilbakemelding er måten chatboter finjusteres på, og OpenAIs eget nettsted erkjenner at mennesker gjennomgår innhold. Det 404 Media tilfører, er omfanget, bruken av eksterne bemanningsbyråer og minnesammendragene som følger med hver melding.
Saken kommer også i en uke der datahåndtering er under press i hele bransjen. Matematikeren Andreas Thom har anklaget OpenAI for å ha villedet ham om de private chattene hans, og store bedriftskunder har begrenset bruken av Anthropics modeller på grunn av hvor lenge selskapet lagrer bruksloggene.
Dette bør du følge med på
Om en europeisk datatilsynsmyndighet åpner en undersøkelse, og om OpenAI endrer standardinnstillingen for forbrukerkontoer eller legger til et tydeligere varsel om at innleide kan lese samtalene.
