Provas sobre o código, não sobre o desenho
A Google DeepMind anunciou a 10 de novembro que os seus agentes de inteligência artificial tinham provado matematicamente propriedades de segurança essenciais do código que implementa o protocolo Signal, a cifragem por trás do Signal e do Google Messages. A empresa descreveu-o como a primeira vez que a IA é usada para verificar formalmente um protocolo criptográfico amplamente implantado a esta profundidade, e a primeira vez que a implementação de um protocolo destes é verificada formalmente por qualquer método, com ou sem IA.
A distinção importa. Os criptógrafos analisam formalmente protocolos há décadas, mas a DeepMind sublinha que a maior parte desse trabalho pára ao nível do desenho: uma prova sobre a ideia, e não sobre o software que as pessoas executam. No texto, assinado por Pushmeet Kohli e Swarat Chaudhuri, a empresa diz que os seus agentes foram mais longe e provaram que o código compilado cumpre as propriedades de segurança especificadas pelos seus peritos, até ao que corre nos dispositivos.

Entre essas propriedades, a DeepMind refere manter as mensagens protegidas antes e depois de um dispositivo ser temporariamente comprometido. As vulnerabilidades reais, escreve, escondem-se muitas vezes no espaço entre um desenho e a sua implementação, e é precisamente isso que torna difícil fechá-lo.
Como o trabalho foi dividido
O sistema chama-se AlphaProof Code e a DeepMind descreve-o como uma estrutura agêntica com vários modelos de linguagem que divide a verificação formal como faria uma equipa de investigação. Peritos humanos trabalharam com uma combinação de modelos para traduzir os objetivos de segurança do Signal em especificações matemáticas formais, e reviram cada uma delas. Depois, agentes movidos pelo Gemini Carbon produziram as provas, gerando mais de seis milhões de linhas de Lean, a linguagem em que as demonstrações são verificadas por máquina.
Os agentes auditaram então o seu próprio resultado e assinalaram as partes que exigiam juízo humano: cerca de um por cento do código, segundo a DeepMind. O Lean verifica o resto automaticamente. A empresa fixa o tempo total em quatro semanas, contra os anos que equipas especializadas historicamente dedicaram.
Um teste com erros conhecidos
Para confirmar que o sistema distingue código correto de código defeituoso, os investigadores da DeepMind reintroduziram dois erros reais, já corrigidos, numa cópia isolada do código do Signal. Nos dois casos, afirma, o sistema produziu uma prova verificada por máquina de que a versão com o erro era insegura.
O diretor de tecnologia do Signal, Ehren Kret, é citado no texto a dizer que usar agentes de IA para traduzir código vivo em teoremas válidos de Lean é um avanço importante, e que ter a implementação do protocolo rigorosamente verificada dá à organização mais confiança nas suas garantias de privacidade.

O que fica por resolver
Todos os números aqui são da própria DeepMind, publicados num texto da empresa acompanhado de um artigo técnico, e a reivindicação de pioneirismo não foi arbitrada de forma independente. Uma prova cobre apenas o que a especificação diz, e as especificações são escritas por pessoas: o próprio texto esclarece que peritos humanos definiram e reviram cada uma.
A DeepMind diz que vai abrir o código dos seus artefactos de verificação formal, que é a parte que investigadores externos podem conferir. A empresa apresentou o resultado como base para verificar outros sistemas, nomeando o firmware de dispositivos médicos e o software da rede elétrica, a par do CodeMender, o agente de reparação automática de código que apresentou no ano passado. Saber se o número de quatro semanas se mantém num código que ninguém estudou durante décadas é o que há a acompanhar.