Um cartune viral com o nome de outra pessoa ao canto
Depois das mortes de Dolly Parton e Tim Curry no final de agosto, um cartune de um único quadro que mostrava os dois às portas do céu espalhou-se pelo Twitter, Facebook, Instagram e Bluesky. Uma única publicação chegou a 25.000 gostos. No canto inferior direito estava o pseudónimo BLOPER: a assinatura de Brendan Loper, que desenha para a The New Yorker.
Loper não o desenhou nem o assinou. A imagem foi gerada pelo ChatGPT e publicada primeiro no Facebook por uma fã de Dolly Parton que escreveu nos próprios comentários ter pedido ao chatbot um cartune ao estilo da New Yorker. Loper contou ao Nieman Lab, que publicou o caso a 5 de outubro, que o irmão gémeo lhe escreveu primeiro e que depois desconhecidos lhe mandaram emails e mensagens a perguntar se era dele. Já tinha sido avisado de um caso semelhante em maio.
Mais de quinze cartunistas e um logótipo que ninguém licenciou
Andrew Deck, do Nieman Lab, documentou mais de 15 cartunistas da New Yorker cujas assinaturas o gerador de imagens tinha colocado em trabalhos que nunca fizeram. Entre os que encontrou em fóruns ou produziu nos seus próprios testes estão Harry Bliss, Emily Flake, Joe Dator, Pat Byrnes, Peter Vey, Jason Adam Katzenstein, Liza Donnelly, Ellis Rosen, George Booth, Saul Steinberg e Warren Miller — os dois últimos mortos há muito, e Miller colaborador já nos anos 1960.
Nem todos os cartunes gerados traziam assinatura, e alguns traziam nomes inventados. Mas os nomes verdadeiros repetiam-se, e alguns resultados traziam também o logótipo da New Yorker.
A Condé Nast, dona da revista, assinou em 2024 um acordo plurianual de licenciamento de conteúdos com a OpenAI. Os termos não são públicos. Um porta-voz da New Yorker disse ao Nieman Lab que a Condé Nast nunca deu autorização a nenhum criador de modelos de linguagem para treinar com os seus cartunes, e que reproduzir o logótipo da revista também não é permitido em nenhum dos seus acordos de IA. Os cartunistas da revista enviam trabalho por iniciativa própria, só são pagos se um desenho for escolhido e mantêm os direitos de autor; o contrato-padrão não é obra por encomenda e não cobre o treino de IA.
A OpenAI chama-lhe uma falha
Um porta-voz da OpenAI disse ao Nieman Lab que a empresa está concentrada em ferramentas que reforcem os criadores humanos, e agradeceu à comunidade por sinalizar aquilo a que chamou falhas e comportamentos não intencionais dos seus modelos. A OpenAI recusou explicar como as assinaturas entraram nos seus dados de treino.
Depois de Deck avisar a empresa, o ChatGPT passou a devolver, em alguns pedidos ao estilo da New Yorker, um aviso sobre semelhança com conteúdo de terceiros. À data da publicação continuava a assinar alguns cartunes gerados com nomes reais.
Os cartunistas com quem Deck falou traçaram uma linha entre estilo e assinatura. Flake descreveu as imagens como tendo o ADN do seu trabalho sem se parecerem com nada que tivesse desenhado, e comparou o efeito a ver-lhe atribuída uma frase que nunca disse. Loper foi mais direto: o nome dele é o nome dele.
O direito de autor norte-americano não resolveu nada disto. Uma ação sobre o estilo seria difícil; uma sobre a assinatura aproxima-se mais da falsa atribuição ou da personificação, que é outro corpo legal e quase não foi testado contra geradores de imagens. O que já está estabelecido é o contexto de mercado: em julho um tribunal federal aprovou um acordo de 1,5 mil milhões de dólares entre a Anthropic e autores cujos livros pirateados foram usados no treino, o maior da história do direito de autor norte-americano. Katzenstein, um dos cartunistas cuja assinatura o ChatGPT reproduziu, era parte nesse processo.
