Lo que descubrió 404 Media
OpenAI paga a cientos de contratistas para que lean prompts reales de ChatGPT y califiquen las respuestas del chatbot, informó 404 Media el 14 de septiembre. El trabajo se desarrolla bajo el nombre en clave interno Project Lily, que aparece en materiales de formación revisados por el medio. Los documentos no indican qué modelo ayudan a entrenar esas evaluaciones.
404 Media afirmó haber examinado guías de instrucciones, canales de Slack, sistemas de calificación y ejemplos de prompts reales de usuarios, con parte del material marcado como «Confidencial y propiedad exclusiva». Un contratista dijo que el trabajo se pagaba a más de 50 dólares la hora. Según el reportaje, los trabajadores se reclutan a través de una empresa llamada Crossing Hurdles y cobran a través de Mercor.
Lo que ven los revisores
Los revisores no ven nombres de usuario. Pero los prompts pueden llegar acompañados de un «resumen de las memorias del usuario» extraído de su uso previo de ChatGPT, que a veces incluye dónde se encuentra la persona, según 404 Media.
OpenAI asegura que la información personal se elimina antes de que los prompts lleguen a los revisores, mediante un modelo al que llama Privacy Filter. Su propia documentación es franca sobre sus límites: «Como todos los modelos, Privacy Filter puede cometer errores. Puede pasar por alto identificadores poco comunes o referencias privadas ambiguas».
Activado por defecto
Que una conversación pueda usarse de este modo depende de un ajuste llamado «Improve the model for everyone» (Mejorar el modelo para todos). Según 404 Media, está activado por defecto en las cuentas Free, Plus y Pro y es el usuario quien debe desactivarlo, mientras que en los planes Enterprise, Business y Edu viene desactivado por defecto.
OpenAI no quiso decir si se había informado explícitamente a los usuarios de que personas, y no solo software, pueden leer sus chats. Tras la publicación del artículo, remitió a 404 Media a una sección de su web en la que afirma que hay humanos que revisan contenidos para «mejorar el rendimiento del modelo».
La cuestión europea
En Europa, la forma de informar puede importar tanto como la práctica en sí. The Next Web cita la sentencia del Tribunal de Justicia de la UE de septiembre de 2025 en el asunto EDPS contra SRB, que interpreta como una obligación de avisar a las personas, en el momento de recoger sus datos, de que estos se cederán a terceros, tanto si esos terceros pueden identificarlas como si no. El medio señaló que OpenAI no había precisado dónde informaba a los usuarios de la revisión por contratistas.
Por qué importa ahora
La retroalimentación humana es la forma en que se ajustan los chatbots, y la propia web de OpenAI reconoce que hay personas que revisan contenidos. Lo que aporta 404 Media es la escala, el recurso a empresas externas de contratación de personal y los resúmenes de memorias que acompañan a cada prompt.
Además, llega en una semana en la que la gestión de datos está bajo presión en todo el sector. El matemático Andreas Thom ha acusado a OpenAI de engañarle sobre sus chats privados, y grandes clientes empresariales han restringido su uso de los modelos de Anthropic por el tiempo que la compañía conserva los registros de uso.
Qué vigilar
Si alguna autoridad europea de protección de datos abre una investigación, y si OpenAI cambia la configuración predeterminada de las cuentas de consumo o añade un aviso más claro de que los contratistas pueden leer las conversaciones.
