Ce qu’a découvert 404 Media
OpenAI rémunère des centaines de prestataires pour lire de vrais prompts ChatGPT et noter les réponses du chatbot, a révélé 404 Media le 14 septembre. Ce travail est mené sous le nom de code interne Project Lily, qui figure dans des supports de formation consultés par le média. Les documents ne précisent pas quel modèle ces évaluations servent à entraîner.
404 Media dit avoir examiné des guides d’instructions, des canaux Slack, des systèmes de notation et des exemples de vrais prompts d’utilisateurs, certains documents portant la mention « Confidentiel et propriétaire ». Un prestataire a indiqué que la mission était payée plus de 50 dollars de l’heure. Selon l’enquête, les travailleurs sont recrutés par une société nommée Crossing Hurdles et rémunérés via Mercor.
Ce que voient les évaluateurs
Les évaluateurs ne voient pas les noms d’utilisateur. Mais les prompts peuvent arriver accompagnés d’un « résumé des mémoires de l’utilisateur », tiré de son usage antérieur de ChatGPT, qui indique parfois où il se trouve, selon 404 Media.
OpenAI affirme que les informations personnelles sont supprimées avant que les prompts n’arrivent aux évaluateurs, grâce à un modèle baptisé Privacy Filter. Sa propre documentation reconnaît franchement ses limites : « Comme tous les modèles, Privacy Filter peut commettre des erreurs. Il peut manquer des identifiants peu courants ou des références privées ambiguës. »
Activé par défaut
La possibilité d’utiliser une conversation de cette manière dépend d’un réglage intitulé « Improve the model for everyone » (Améliorer le modèle pour tous). D’après 404 Media, il est activé par défaut sur les comptes Free, Plus et Pro et doit être désactivé par l’utilisateur, alors qu’il est désactivé par défaut sur les offres Enterprise, Business et Edu.
OpenAI a refusé de dire si les utilisateurs avaient été explicitement informés que des personnes, et pas seulement des logiciels, peuvent lire leurs conversations. Après la publication de l’article, l’entreprise a renvoyé 404 Media vers une rubrique de son site indiquant que des humains examinent des contenus pour « améliorer les performances du modèle ».
La question européenne
En Europe, l’information des utilisateurs pourrait compter autant que la pratique elle-même. The Next Web cite l’arrêt rendu en septembre 2025 par la Cour de justice de l’UE dans l’affaire EDPS contre SRB, qu’il interprète comme obligeant une entreprise à prévenir les personnes, dès la collecte, que leurs données seront transmises à des tiers, que ces tiers puissent ou non les identifier. Le site précise qu’OpenAI n’a pas indiqué où il informait les utilisateurs de l’examen par des prestataires.
Pourquoi c’est important maintenant
Le retour humain est la méthode par laquelle on affine les chatbots, et le site d’OpenAI reconnaît lui-même que des personnes examinent des contenus. Ce qu’apporte 404 Media, c’est l’ampleur du dispositif, le recours à des sociétés de placement extérieures et les résumés de mémoires qui accompagnent chaque prompt.
L’enquête tombe aussi une semaine où le traitement des données est sous pression dans tout le secteur. Le mathématicien Andreas Thom a accusé OpenAI de l’avoir induit en erreur au sujet de ses conversations privées, et de grands clients professionnels ont restreint leur usage des modèles d’Anthropic en raison de la durée de conservation de ses journaux d’utilisation.
Ce qu’il faut surveiller
Si une autorité européenne de protection des données ouvre une enquête, et si OpenAI modifie le réglage par défaut des comptes grand public ou ajoute un avertissement plus clair indiquant que des prestataires peuvent lire les conversations.
