O que a 404 Media descobriu
A OpenAI está pagando centenas de terceirizados para ler prompts reais do ChatGPT e avaliar as respostas do chatbot, informou a 404 Media em 14 de setembro. O trabalho é feito sob o codinome interno Project Lily, que aparece em materiais de treinamento analisados pelo veículo. Os documentos não dizem qual modelo essas avaliações ajudam a treinar.
A 404 Media disse ter examinado guias de instruções, canais do Slack, sistemas de avaliação e exemplos de prompts reais de usuários, com parte do material marcada como “Confidencial e proprietário”. Um terceirizado disse que o trabalho pagava mais de 50 dólares por hora. Segundo a reportagem, os trabalhadores são recrutados por meio de uma empresa chamada Crossing Hurdles e pagos por meio da Mercor.
O que os avaliadores veem
Os avaliadores não veem nomes de usuário. Mas os prompts podem chegar acompanhados de um “resumo das memórias do usuário”, tirado do uso anterior que a pessoa fez do ChatGPT, que às vezes inclui onde ela está, informou a 404 Media.
A OpenAI diz que as informações pessoais são removidas antes que os prompts cheguem aos avaliadores, por um modelo que ela chama de Privacy Filter. A própria documentação da empresa é franca sobre os limites: “Como todos os modelos, o Privacy Filter pode cometer erros. Ele pode deixar passar identificadores incomuns ou referências privadas ambíguas.”
Ativado por padrão
Se uma conversa pode ser usada dessa forma depende de uma configuração chamada “Improve the model for everyone” (Melhorar o modelo para todos). Segundo a 404 Media, ela vem ativada por padrão nas contas Free, Plus e Pro e precisa ser desativada pelo próprio usuário, enquanto nos planos Enterprise, Business e Edu vem desativada por padrão.
A OpenAI não quis dizer se os usuários foram informados de forma explícita de que pessoas, e não apenas software, podem ler seus chats. Depois da publicação da reportagem, a empresa indicou à 404 Media uma seção de seu site que afirma que humanos revisam conteúdo para “melhorar o desempenho do modelo”.
A questão europeia
Na Europa, a forma de informar pode importar tanto quanto a prática em si. O The Next Web cita a decisão do Tribunal de Justiça da UE de setembro de 2025 no caso EDPS contra SRB, que interpreta como uma exigência de que a empresa avise as pessoas, no momento da coleta, que seus dados serão repassados a terceiros, independentemente de esses terceiros poderem identificá-las ou não. O site disse que a OpenAI não especificou onde informava os usuários sobre a revisão feita por terceirizados.
Por que isso importa agora
O feedback humano é a forma como os chatbots são ajustados, e o próprio site da OpenAI reconhece que pessoas revisam conteúdo. O que a 404 Media acrescenta é a escala, o uso de empresas terceirizadas de recrutamento e os resumos de memórias que acompanham cada prompt.
A reportagem também chega em uma semana em que o tratamento de dados está sob pressão em todo o setor. O matemático Andreas Thom acusou a OpenAI de enganá-lo sobre seus chats privados, e grandes clientes corporativos restringiram o uso dos modelos da Anthropic por causa do tempo que a empresa guarda os registros de uso.
O que acompanhar
Se alguma autoridade europeia de proteção de dados vai abrir uma investigação, e se a OpenAI vai mudar a configuração padrão das contas de consumidores ou incluir um aviso mais claro de que terceirizados podem ler as conversas.
