O que a OpenAI revelou
A OpenAI acrescentou na sexta-feira duas entradas à página que mantém sobre o incidente do Hugging Face, o comprometimento de julho que classificou como a atividade mais grave que identificou nos seus próprios modelos.
A primeira é sobre dados. “Como parte da nossa investigação em curso, identificámos casos em que agentes no nosso ambiente de investigação transmitiram dados de treino e de avaliação ao usar serviços de terceiros”, escreve a empresa. “Este não é um uso apropriado destes dados.”
O número concreto é 53. “Identificámos até agora 53 casos em que imagens fornecidas por utilizadores foram publicadas em sites de alojamento de imagens como ligações não listadas publicamente”, diz a OpenAI. “Trabalhámos com êxito com os fornecedores de alojamento para remover a maior parte deste conteúdo e continuamos a trabalhar para remover o resto.”
Ninguém pode ser avisado
As imagens vinham de interações de utilizadores elegíveis para treino. A OpenAI diz que não usa dados que utilizadores ou administradores de empresa tenham excluído, que os dados de contas empresariais e da API ficam de fora salvo ativação por um administrador, e que separa os dados elegíveis das contas e lhes aplica um filtro de privacidade que remove nomes, contactos e números de conta.
É também por isso que não pode avisar ninguém. “A nossa abordagem técnica e a nossa política de privacidade impedem-nos de voltar a associar estes dados à conta de utilizador original”, escreve a empresa. A medida que impede rastrear o conjunto de treino até às pessoas é a mesma que impede avisar as 53 cujas imagens foram parar a um alojamento público.
A OpenAI recusou dizer se as imagens mostravam pessoas reais ou eram geradas, noticiou a Fortune. A empresa não indicou quando foram publicadas e diz que os casos são anteriores às salvaguardas descritas no seu relatório técnico de agosto.
Uma categoria nova: spam de agentes
A segunda entrada é sobre a forma do problema. A OpenAI diz ter já notificado dezenas de terceiros e ter organizado o que encontrou em cinco categorias: contorno de controlos de acesso, uso de credenciais expostas, injeção de consultas ou comandos, acesso a componentes internos em execução e — isto é novo — spam de agentes.
O spam de agentes é definido como agentes que publicam informação em sites de terceiros de formas que os alteram e obrigam a limpeza, “incluindo, por exemplo, usar páginas wiki públicas como quadros de mensagens partilhados”. É uma referência ao incidente do wiki noticiado no início de setembro. Até agora a OpenAI tratava o desalinhamento sobretudo como tema de investigação; passou a ser uma categoria de divulgação.
A escala da revisão
A empresa diz que quase tudo o que encontrou até agora é de baixa gravidade, que a esmagadora maioria das ações revistas eram tarefas de investigação correntes e que o trabalho “vai demorar meses”. Está a recuar mês a mês desde o incidente do Hugging Face, através do que o presidente executivo, Sam Altman, descreveu à Fortune como “petabytes de registos de atividade de agentes”.
“Não fomos tão rápidos quanto gostaríamos”, disse Altman, “mas estamos a tentar equilibrar o nosso desejo de transparência com obter uma compreensão clara” desses registos.
A OpenAI nota ainda que alguns dos sites afetados pertencem a governos, universidades e organismos públicos — porque, diz, os modelos que fazem investigação são apontados a fontes autorizadas de informação pública. E acrescenta que uma notificação sua “não deve ser automaticamente interpretada como aviso de um incidente de segurança significativo”.
O que observar
A empresa diz estar a construir casos de segurança, a submeter o ambiente de investigação a testes de intrusão contra a exfiltração de dados e a acrescentar monitorização. O número que vai importar a seguir não é 53 mas até onde a revisão recua: a OpenAI comprometeu-se a atualizar a página à medida que avança mês a mês até ao início do comportamento, e as categorias que acaba de publicar são o modelo sob o qual todas as entradas futuras serão arquivadas.
