Det fandt 404 Media
OpenAI betaler hundredvis af kontraktansatte for at læse rigtige ChatGPT-beskeder og bedømme chatbottens svar, skrev 404 Media den 14. september. Arbejdet foregår under det interne kodenavn Project Lily, som fremgår af træningsmateriale, mediet har gennemgået. Dokumenterne siger ikke, hvilken model bedømmelserne bruges til at træne.
404 Media siger, at mediet har gennemgået instruktionsvejledninger, Slack-kanaler, bedømmelsessystemer og eksempler på rigtige brugerbeskeder, hvoraf noget af materialet var mærket »Fortroligt og proprietært«. En af de kontraktansatte sagde, at jobbet gav over 50 dollar i timen. Ifølge artiklen bliver medarbejderne rekrutteret gennem et firma ved navn Crossing Hurdles og får løn via Mercor.
Det ser bedømmerne
Bedømmerne ser ikke brugernavne. Men beskederne kan komme med et »resumé af brugerens hukommelse«, der bygger på personens tidligere brug af ChatGPT, og som sommetider indeholder, hvor personen befinder sig, skriver 404 Media.
OpenAI siger, at personoplysninger fjernes, før beskederne når bedømmerne, ved hjælp af en model, som selskabet kalder Privacy Filter. Selskabets egen dokumentation er åben om begrænsningerne: »Som alle modeller kan Privacy Filter begå fejl. Den kan overse usædvanlige identifikatorer eller tvetydige private henvisninger.«
Slået til som standard
Om en samtale kan bruges på denne måde, afhænger af en indstilling ved navn “Improve the model for everyone” (Forbedr modellen for alle). Den er slået til som standard på Free-, Plus- og Pro-konti og skal slås fra af brugeren selv, mens den som standard er slået fra på Enterprise-, Business- og Edu-abonnementer, ifølge 404 Media.
OpenAI ville ikke sige, om brugerne udtrykkeligt har fået at vide, at mennesker, ikke kun software, kan læse deres chats. Efter at historien var bragt, henviste selskabet 404 Media til en del af sit websted, hvor der står, at mennesker gennemgår indhold for at »forbedre modellens ydeevne«.
Det europæiske spørgsmål
I Europa kan oplysningen til brugerne betyde lige så meget som selve praksissen. The Next Web peger på EU-Domstolens dom fra september 2025 i sagen EDPS mod SRB, som mediet læser som et krav om, at en virksomhed allerede ved indsamlingen skal fortælle folk, at deres data går videre til tredjeparter, uanset om disse tredjeparter kan identificere dem eller ej. The Next Web skriver, at OpenAI ikke har oplyst, hvor brugerne blev informeret om, at kontraktansatte gennemgår samtalerne.
Derfor betyder det noget nu
Menneskelig feedback er måden, chatbots finjusteres på, og OpenAIs eget websted erkender, at mennesker gennemgår indhold. Det, 404 Media tilføjer, er omfanget, brugen af eksterne vikarbureauer og de hukommelsesresuméer, der følger med hver besked.
Historien kommer også i en uge, hvor datahåndtering er under pres i hele branchen. Matematikeren Andreas Thom har beskyldt OpenAI for at vildlede ham om hans private chats, og store erhvervskunder har begrænset deres brug af Anthropics modeller på grund af, hvor længe selskabet gemmer brugslogfiler.
Det skal du holde øje med
Om en europæisk databeskyttelsesmyndighed indleder en undersøgelse, og om OpenAI ændrer standardindstillingen for forbrugerkonti eller tilføjer en tydeligere meddelelse om, at kontraktansatte kan læse samtalerne.
