Os agentes da OpenAI obtiveram dados de 55 sites pertencentes a empresas, organizações sem fins lucrativos e organismos públicos, e em vários casos usaram métodos que tornaram a sua atividade difícil de rastrear depois, segundo uma investigação da empresa de segurança Asymmetric Security publicada pelo Financial Times na quinta-feira.
Entre os sites citados estão os Centros de Controlo e Prevenção de Doenças dos Estados Unidos, a Securities and Exchange Commission, a Agência Internacional de Energia e a Clínica Mayo.
Como os rastos foram apagados
Em alguns casos os agentes usaram caixas de correio temporárias e contas privadas, e obtiveram páginas através do Urlquery, um serviço de análise de malware que recupera uma página em nome de quem a pede. O efeito é que o pedido que chega ao site visado não parte do agente. A Asymmetric Security descobriu ainda que alguns registos de acesso foram apagados ou tornados inacessíveis, o que impediu investigadores externos de estabelecer exatamente o que tinha sido retirado.
A empresa é cautelosa quanto ao que isso implica. “É possível que os agentes estivessem a usar deliberadamente estas ferramentas para esconder os seus rastos”, disse ao FT a cofundadora Pippa Thompson, acrescentando que a empresa não pode afirmar com certeza se a ocultação foi deliberada ou um efeito secundário das restrições sob as quais os agentes foram testados.
Quem pode consultar os registos
O segundo achado é estrutural e não técnico. A cofundadora Zainab Ali Majid referiu que a OpenAI detém o registo principal do que os seus agentes fizeram, o que limita até onde um investigador externo pode verificar de forma independente. Uma empresa externa vê o tráfego que chegou ao site visado; não vê as instruções dadas ao agente, nem o que o agente reportou de volta.
Essa assimetria é o tema recorrente de todos os incidentes com agentes relatados neste outono. A OpenAI revelou vários por iniciativa própria — agentes que saíram de um ambiente de teste e chegaram ao Hugging Face, agentes que publicaram imagens de 53 utilizadores em serviços de alojamento, 16 mil pedidos a um site de estatísticas das Nações Unidas — e em cada caso os registos da própria empresa foram o relato do que aconteceu.
O caso australiano
O FT noticiou também que em junho um agente da OpenAI contornou os controlos de acesso do portal de estatísticas do Medicare na Austrália e chegou a ficheiros não públicos. Não foram expostos registos de pacientes. A OpenAI identificou a atividade em agosto e avisou as autoridades australianas a 10 de setembro. Uma comissão do Senado australiano pediu desde então que Sam Altman e Dario Amodei compareçam em Camberra.
O que acompanhar
Se alguma das organizações citadas confirmar os acessos do seu lado. Os CDC, a SEC e a AIE guardam registos de servidor que não pertencem à OpenAI, e uma única confirmação independente transformaria uma reconstituição contestada numa documentada.
