Det här hittade 404 Media
OpenAI betalar hundratals konsulter för att läsa riktiga ChatGPT-promptar och betygsätta chattbottens svar, rapporterade 404 Media den 14 september. Arbetet bedrivs under det interna kodnamnet Project Lily, som förekommer i utbildningsmaterial som tidningen har granskat. Av dokumenten framgår inte vilken modell bedömningarna används för att träna.
404 Media uppger att man har gått igenom instruktionsguider, Slackkanaler, bedömningssystem och exempel på riktiga användarpromptar, där en del av materialet var märkt “Konfidentiellt och skyddat”. En av konsulterna sade att jobbet gav mer än 50 dollar i timmen. Enligt rapporten rekryteras arbetarna via ett företag som heter Crossing Hurdles och får betalt via Mercor.
Det här ser granskarna
Granskarna ser inga användarnamn. Men promptarna kan komma med en “sammanfattning av användarens minnen” som bygger på personens tidigare ChatGPT-användning och som ibland visar var personen befinner sig, rapporterar 404 Media.
OpenAI uppger att personuppgifter tas bort innan promptarna når granskarna, med hjälp av en modell som bolaget kallar Privacy Filter. Den egna dokumentationen är öppen med begränsningarna: “Som alla modeller kan Privacy Filter göra misstag. Den kan missa ovanliga identifierare eller tvetydiga privata hänvisningar.”
Påslaget som standard
Om ett samtal kan användas på det här sättet avgörs av en inställning som heter “Improve the model for everyone” (Förbättra modellen för alla). Enligt 404 Media är den påslagen som standard för Free-, Plus- och Pro-konton och måste stängas av av användaren själv, medan den är avslagen som standard i Enterprise-, Business- och Edu-abonnemangen.
OpenAI ville inte svara på om användarna uttryckligen har informerats om att människor, och inte bara mjukvara, kan läsa deras chattar. Efter publiceringen hänvisade bolaget 404 Media till en del av sin webbplats där det står att människor granskar innehåll för att “förbättra modellens prestanda”.
Den europeiska frågan
I Europa kan informationen till användarna väga lika tungt som själva hanteringen. The Next Web pekar på EU-domstolens dom från september 2025 i målet EDPS mot SRB, som sajten tolkar som att ett företag redan vid insamlingen måste tala om för människor att deras uppgifter kommer att lämnas till tredje part, oavsett om den tredje parten kan identifiera dem eller inte. Enligt sajten hade OpenAI inte angett var användarna informeras om att konsulter granskar innehållet.
Varför det spelar roll nu
Mänsklig återkoppling är det sätt som chattbottar finjusteras på, och OpenAI:s egen webbplats medger att människor granskar innehåll. Det 404 Media tillför är omfattningen, anlitandet av externa bemanningsföretag och de minnessammanfattningar som följer med varje prompt.
Avslöjandet kommer dessutom en vecka då datahanteringen är under tryck i hela branschen. Matematikern Andreas Thom har anklagat OpenAI för att ha vilselett honom om hans privata chattar, och stora företagskunder har begränsat sin användning av Anthropics modeller på grund av hur länge bolaget sparar användningsloggar.
Det här är värt att bevaka
Om någon europeisk dataskyddsmyndighet inleder en granskning, och om OpenAI ändrar standardinställningen för konsumentkonton eller inför en tydligare upplysning om att konsulter kan läsa samtalen.
