O que o documento defende
Um documento de trabalho publicado pelo Programa de Cambridge sobre Ciência e Política da IA pergunta o que acontece se as empresas que constroem IA conseguirem automatizar o trabalho de a construir. O título é a própria pergunta: E se automatizar a I&D em IA desencadear uma explosão de inteligência?
Uma explosão de inteligência, como o texto a define, é “uma aceleração dramática do progresso da IA, impulsionada pela IA, que comprime em meses ou menos avanços que de outro modo levariam anos”. Os autores não afirmam que vai acontecer. Argumentam que os indícios de que pode acontecer são já suficientemente sólidos para que preparar-se depois fosse tarde de mais, porque o progresso durante uma explosão ultrapassaria o ritmo normal da política.
As assinaturas são o que torna difícil arrumar isto como ativismo. Vinte e dois autores, entre eles o cientista-chefe da OpenAI, Jakub Pachocki, o cofundador da Anthropic Jack Clark, o diretor científico da Microsoft Eric Horvitz, Dawn Song, de Berkeley, e os prémios Turing Geoffrey Hinton, Yoshua Bengio e Andrew Barto.
As provas que citam
Quase todas vêm dos próprios laboratórios. O documento cita a Anthropic, que reporta que a fatia de código aprovado escrita por sistemas de IA subiu de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026, e que a parte do trabalho de I&D concluída autonomamente com apenas supervisão humana de alto nível passou de 1% para 26% entre março e agosto de 2026.
A OpenAI é citada a dizer que a assistência de IA é usada “em praticamente todas as partes da empresa”, com agentes capazes de executar código no treino, na avaliação e na proteção de modelos futuros. A Google reporta que a IA é usada em “quase todo o trabalho que envolve escrever código ou configuração, desenho técnico e ideação de investigação”.
O mecanismo descrito é um ciclo: os sistemas de IA ampliam a força de investigação efetiva, essa força produz sistemas melhores, e esses voltam a ampliá-la. Os atritos são reais — limites de computação, treinos que levam tempo, tarefas resistentes à automatização — mas os autores sustentam que os avanços de software realimentam quase de imediato, ao passo que os de hardware esperam por obras de anos.
O que pedem aos decisores
Três coisas, por esta ordem. Obter visibilidade sobre quanta I&D em IA está automatizada dentro das empresas de fronteira. Desenvolver formas de cadenciar e limitar uma escalada. Preparar a sociedade para os efeitos.
As propostas são invulgarmente concretas para um texto com autores do setor. Reporte padronizado de indicadores de automatização da I&D a governos e auditores externos. Auditores acreditados ou organismos públicos de avaliação a examinar os sistemas antes do uso interno, ou instalados dentro de certas empresas para auditar ou supervisionar a sua I&D, ao modo da comissão reguladora nuclear norte-americana e do supervisor bancário. Limites ao quanto as capacidades podem crescer num dado período. Fiscalização dos centros de dados que correm I&D automatizada, com opções preparadas para suspender cargas específicas. E a exigência de que algumas avaliações corram em redes fisicamente isoladas, para impedir fugas de pesos e conter sistemas que tentem escapar.
Os autores nomeiam também o abuso óbvio: um mecanismo mal redigido podia permitir a um governo travar a investigação em todas as empresas menos numa favorecida.
O que observar
É um documento de trabalho, não uma proposta com patrocinador legislativo. O que há a seguir é se os indicadores de reporte que esboça aparecem nalgum instrumento vinculativo — uma regra nacional de reporte, uma condição de licença, uma cláusula na próxima ronda de aplicação europeia — e se os laboratórios cujos cientistas assinaram estão dispostos a divulgar esses indicadores antes de serem obrigados.
