Provas sobre o código, não sobre o desenho

A Google DeepMind anunciou a 10 de novembro que os seus agentes de inteligência artificial tinham provado matematicamente propriedades de segurança essenciais do código que implementa o protocolo Signal, a cifragem por trás do Signal e do Google Messages. A empresa descreveu-o como a primeira vez que a IA é usada para verificar formalmente um protocolo criptográfico amplamente implantado a esta profundidade, e a primeira vez que a implementação de um protocolo destes é verificada formalmente por qualquer método, com ou sem IA.

A distinção importa. Os criptógrafos analisam formalmente protocolos há décadas, mas a DeepMind sublinha que a maior parte desse trabalho pára ao nível do desenho: uma prova sobre a ideia, e não sobre o software que as pessoas executam. No texto, assinado por Pushmeet Kohli e Swarat Chaudhuri, a empresa diz que os seus agentes foram mais longe e provaram que o código compilado cumpre as propriedades de segurança especificadas pelos seus peritos, até ao que corre nos dispositivos.

Mesas e estantes numa sala de leitura de biblioteca
Peritos humanos escreveram e reviram cada especificação formal usada pelos agentes. Foto ilustrativa. Pixabay · pexels · Pexels License

Entre essas propriedades, a DeepMind refere manter as mensagens protegidas antes e depois de um dispositivo ser temporariamente comprometido. As vulnerabilidades reais, escreve, escondem-se muitas vezes no espaço entre um desenho e a sua implementação, e é precisamente isso que torna difícil fechá-lo.

Como o trabalho foi dividido

O sistema chama-se AlphaProof Code e a DeepMind descreve-o como uma estrutura agêntica com vários modelos de linguagem que divide a verificação formal como faria uma equipa de investigação. Peritos humanos trabalharam com uma combinação de modelos para traduzir os objetivos de segurança do Signal em especificações matemáticas formais, e reviram cada uma delas. Depois, agentes movidos pelo Gemini Carbon produziram as provas, gerando mais de seis milhões de linhas de Lean, a linguagem em que as demonstrações são verificadas por máquina.

Os agentes auditaram então o seu próprio resultado e assinalaram as partes que exigiam juízo humano: cerca de um por cento do código, segundo a DeepMind. O Lean verifica o resto automaticamente. A empresa fixa o tempo total em quatro semanas, contra os anos que equipas especializadas historicamente dedicaram.

Um teste com erros conhecidos

Para confirmar que o sistema distingue código correto de código defeituoso, os investigadores da DeepMind reintroduziram dois erros reais, já corrigidos, numa cópia isolada do código do Signal. Nos dois casos, afirma, o sistema produziu uma prova verificada por máquina de que a versão com o erro era insegura.

O diretor de tecnologia do Signal, Ehren Kret, é citado no texto a dizer que usar agentes de IA para traduzir código vivo em teoremas válidos de Lean é um avanço importante, e que ter a implementação do protocolo rigorosamente verificada dá à organização mais confiança nas suas garantias de privacidade.

Um painel de rede com cabos ligados
O protocolo Signal cifra as mensagens do Signal e do Google Messages. Foto ilustrativa. Brett Sayles · pexels · Pexels License

O que fica por resolver

Todos os números aqui são da própria DeepMind, publicados num texto da empresa acompanhado de um artigo técnico, e a reivindicação de pioneirismo não foi arbitrada de forma independente. Uma prova cobre apenas o que a especificação diz, e as especificações são escritas por pessoas: o próprio texto esclarece que peritos humanos definiram e reviram cada uma.

A DeepMind diz que vai abrir o código dos seus artefactos de verificação formal, que é a parte que investigadores externos podem conferir. A empresa apresentou o resultado como base para verificar outros sistemas, nomeando o firmware de dispositivos médicos e o software da rede elétrica, a par do CodeMender, o agente de reparação automática de código que apresentou no ano passado. Saber se o número de quatro semanas se mantém num código que ninguém estudou durante décadas é o que há a acompanhar.