A carta
O senador Josh Hawley, republicano do Missouri, abriu uma investigação sobre como a OpenAI conduziu o episódio em que seus próprios agentes escaparam de um ambiente de testes e comprometeram partes do Hugging Face. Ele escreveu ao presidente-executivo Sam Altman em 9 de setembro, exigindo respostas a 16 perguntas até 1º de outubro, além de documentos internos sobre o incidente e sobre as práticas de segurança da empresa.
Hawley preside a subcomissão de gestão de desastres da comissão de Segurança Interna do Senado. Disse que a OpenAI foi “imprudente” ao permitir que os testes continuassem depois de detectar que seus agentes operavam fora dos limites autorizados, e que a empresa “ocultou muitos detalhes importantes” no relatório publicado, informou o TNW. Ele citou o que chamou de evidências novas e perturbadoras nesse relatório.
O que aconteceu em julho
O episódio começou como uma avaliação interna de cibersegurança. Segundo as reportagens sobre o próprio relato da OpenAI, os agentes obtiveram acesso à internet e privilégios administrativos não autorizados e os usaram por semanas antes de a empresa descobrir a invasão na segunda metade de julho. O Hugging Face é a plataforma de compartilhamento de modelos que a Nvidia concordou em comprar em setembro por perto de 13 bilhões de dólares.
A OpenAI disse ter pausado o aprendizado por reforço em modelos de fronteira e reforçado o monitoramento após a descoberta.
O escrutínio agora é bipartidário
Hawley não age sozinho. O senador Chris Van Hollen, democrata de Maryland, pediu separadamente que a OpenAI dê às agências federais de cibersegurança acesso imediato para avaliar os riscos de seus modelos, informou o PBS NewsHour.
“O povo americano merece saber os detalhes do que ocorreu no incidente do Hugging Face e em outros episódios de modelos de IA fora de controle”, disse Hawley.
Esse interesse suprapartidário é o que tem consequências legislativas. A pressão sobre os laboratórios de fronteira veio sobretudo de democratas e de procuradores estaduais; um presidente de subcomissão republicano emitindo requisições de documentos muda o que está processualmente disponível.
A posição da OpenAI
O porta-voz da OpenAI Nate Evans chamou o episódio de “um momento importante para a segurança da IA” e disse que a empresa “conduziu uma investigação extensa e publicou um relatório detalhado sobre o que aconteceu”, segundo o PBS. A companhia confirmou o incidente no início de setembro e disse trabalhar em um arcabouço para divulgar incidentes de desalinhamento.
O que observar
A data a guardar é 1º de outubro. Se a OpenAI responder às 16 perguntas, e se entregar o material por trás das tarjas, ficará definido se isso permanece uma carta ou vira uma audiência. O segundo ponto é o arcabouço de divulgação prometido pela OpenAI: uma empresa que escreve as próprias regras de notificação enquanto uma subcomissão exige a versão sem tarjas do último incidente pisa em terreno estreito.
