Qué es el Proyecto Lily
404 Media informó el martes de que OpenAI ha despedido a varios contratistas por usar herramientas de IA en un trabajo para el que fueron contratados a mano. El trabajo es el Proyecto Lily, en el que cientos de contratistas leen indicaciones y conversaciones de usuarios reales de ChatGPT —que pueden contener información personal— y luego puntúan y critican las respuestas del modelo.
Parte del encargo consiste en juzgar el tono: comprobar que las respuestas no son excesivamente aduladoras y que no antropomorfizan al chatbot. Documentos internos a los que accedió 404 Media sitúan la escala de los programas de contratistas de OpenAI en más de 10.000 personas repartidas en varios proyectos.
La norma y cómo se aplica
La instrucción a los revisores es tajante. Los documentos internos citados por 404 Media dicen: «No utilicéis herramientas de detección de IA, ni IA vosotros mismos… Los revisores tampoco pueden usar IA, incluidos Grammarly y la traducción automática».
Mercor, una empresa de entrenamiento de IA que contrata a revisores de material de ChatGPT, dijo a 404 Media que sus «contratos prohíben estrictamente el uso de grandes modelos de lenguaje para completar proyectos, y lo hacemos cumplir».
La aplicación de la norma no es un detector. Los contratistas describieron supervisores atentos a palabras repetidas, a un número inusual de rayas y a trabajos terminados a una velocidad anómala. Una carta de despido citaba un problema con la «autenticidad» del trabajo. Una fuente dijo a 404 Media que usar IA «te echa de inmediato» y que «en un grupo de miles, hay montones a los que han pillado».
OpenAI declinó comentar los despidos de contratistas por usar IA, según 404 Media.
Por qué existe la norma
El valor de este trabajo es precisamente que no es salida de un modelo. Al revisor se le paga por un juicio que el modelo no puede hacer sobre sí mismo: si una respuesta es demasiado aduladora, si exagera, si suena a persona y no a programa. Si ese juicio pasa por un chatbot, la señal de entrenamiento se convierte en el modelo corrigiendo sus propios deberes, blanqueado a través de una nómina.
La ironía está haciendo su trabajo aquí, pero el problema de fondo es economía laboral corriente. Son puestos pagados por tarea, remotos y medidos por volumen. Una herramienta que triplica el volumen es justo lo que busca quien cobra a destajo, y una norma que lo prohíbe vale lo que valga la detección que la sostiene: en este relato, un supervisor contando rayas.
Qué vigilar
Si algún laboratorio publica una medición de cuánta puntuación asistida por IA se ha colado en sus propios datos de preferencia, y qué efecto tiene eso sobre el trabajo de alineamiento construido encima. Por ahora la aplicación es anecdótica y la contaminación, no cuantificada.
