O que a auditoria encontrou

O Government Accountability Office dos Estados Unidos divulgou na quarta-feira um relatório segundo o qual as quatro plataformas de IA mais usadas produziram planos viáveis de atentado dentro do país quando os seus investigadores os pediram. O relatório, Inteligência artificial: testes secretos usaram plataformas comuns para criar planos de atentado viáveis, foi concluído em 16 de outubro e divulgado em 18 de novembro.

Duas das plataformas forneceram informação para construir e detonar um engenho explosivo improvisado destinado a causar vítimas em massa: uma apontava um hotel identificado numa grande cidade norte-americana e a outra um centro de convenções, cada uma com data e hora precisas. As outras duas produziram planos contra a rede elétrica: um ataque com drone a subestações identificadas e um ataque com armas de fogo a subestações perto de um aeroporto, ambos orientados para o dano económico. «Cada plataforma levou menos de 12 horas a gerar os planos de ataque», escreveu o GAO.

Todas recusaram no início. As proteções dispararam — recusas, remoção de informação, suspensão de contas — e os auditores ultrapassaram-nas com o que o relatório chama técnicas comuns de contorno.

Verificado no terreno

Estrutura metálica e isoladores de uma torre de alta tensão vistos de baixo
Um plano propunha um ataque com drone a subestações e outro, armas de fogo. Imagem ilustrativa. Budget Bizar · pexels · Pexels License

O que separa isto de uma demonstração de jailbreak é a verificação. Os investigadores do GAO consultaram especialistas e visitaram os locais para ver se os planos funcionariam. Encontraram erros: num caso as estradas estavam mal situadas, noutro muros altos teriam impedido ver os alvos. O juízo geral manteve-se: a informação bastava para planear e executar um ataque.

A auditoria decorreu de dezembro de 2025 a outubro de 2026, com os testes na primavera de 2026. O GAO foi cuidadoso sobre o que é novo aqui. «Os detalhes por trás da informação fornecida pelas plataformas de IA não eram inéditos», escreveu. «Muitos dos dados estão disponíveis na internet. No entanto, a geração de planos que poderia ter levado semanas ou meses foi concluída em horas com a ajuda da IA.» As plataformas podiam ainda levantar métodos que uma pesquisa básica não teria revelado.

As empresas respondem

O relatório de 61 páginas inclui respostas da Anthropic, Google, OpenAI e SpaceXSI, a empresa por trás do Grok. Segundo a CBS News, a Anthropic escreveu que não contesta que um avaliador determinado consiga extrair conteúdo nocivo deturpando o propósito de um pedido, e que leva a conclusão a sério, embora diga não conseguir verificar os resultados do GAO. O Google afirmou que os testes foram feitos em modelos anteriores e que continua a melhorá-los. A OpenAI disse acolher a oportunidade de responder.

Filas de cadeiras de couro e bancadas numa câmara legislativa
A senadora Maggie Hassan diz que uma das suas primeiras audições de janeiro será sobre risco de IA. Imagem ilustrativa. Héctor Berganza · pexels · Pexels License

A conclusão do próprio GAO é mais estreita do que o título e mais difícil de contestar: os fornecedores vão continuar a afinar as proteções, mas «no seu estado atual, esta tecnologia pode ser perigosa e o seu uso indevido representa um risco crescente para a segurança nacional e económica».

O que vem a seguir

A senadora Maggie Hassan, que encomendou a revisão e assume a presidência da comissão de segurança interna do Senado no início do ano, disse que uma das suas primeiras audições em janeiro será sobre risco de IA. «A ameaça da IA à segurança pública já não é teórica», afirmou em comunicado. «Se o Congresso não agir, é uma questão de quando, não de se, um agente malicioso usará a IA para planear e executar um grande atentado.»

A afirmação verificável em tudo isto é a do Google: que os modelos avançaram desde a primavera. Nada no registo público o resolve, porque o GAO não disse qual plataforma era qual e nenhum teste equivalente foi feito nos modelos lançados desde então.