Des preuves sur le code, pas sur la conception

Google DeepMind a annoncé le 10 novembre que ses agents d’intelligence artificielle avaient démontré mathématiquement des propriétés de sécurité essentielles du code qui met en œuvre le protocole Signal, le chiffrement derrière Signal et Google Messages. L’entreprise y voit la première fois que l’IA sert à vérifier formellement un protocole cryptographique largement déployé à cette profondeur, et la première fois que l’implémentation d’un tel protocole est vérifiée formellement, par quelque méthode que ce soit.

La nuance compte. Les cryptographes analysent formellement des protocoles depuis des décennies, mais DeepMind souligne que l’essentiel de ce travail s’arrête au niveau de la conception : une preuve sur l’idée, non sur le logiciel réellement exécuté. Dans le billet signé par Pushmeet Kohli et Swarat Chaudhuri, l’entreprise affirme que ses agents sont allés plus loin, en prouvant que le code compilé satisfait les propriétés de sécurité spécifiées par ses experts, jusqu’à ce qui tourne sur les appareils.

Des tables et des rayonnages dans une salle de lecture de bibliothèque
Des experts humains ont rédigé et relu chaque spécification formelle utilisée par les agents. Photo d'illustration. Pixabay · pexels · Pexels License

Parmi ces propriétés, DeepMind cite le maintien de la protection des messages avant et après la compromission temporaire d’un appareil. Les vulnérabilités réelles, écrit l’entreprise, se cachent souvent dans l’écart entre une conception et son implémentation, et c’est précisément ce qui rend cet écart difficile à combler.

Comment le travail a été réparti

Le système s’appelle AlphaProof Code. DeepMind le décrit comme un cadre agentique à plusieurs modèles de langage qui répartit la vérification formelle comme le ferait une équipe de recherche. Des experts humains ont travaillé avec un ensemble de modèles pour traduire les objectifs de sécurité de Signal en spécifications mathématiques formelles, et ont relu chacune d’elles. Des agents animés par Gemini Carbon ont ensuite produit les preuves, générant plus de six millions de lignes de Lean, le langage dans lequel les démonstrations sont vérifiées par la machine.

Les agents ont ensuite audité leur propre production et signalé les parties exigeant un jugement humain : environ un pour cent du code, selon DeepMind. Lean vérifie le reste automatiquement. L’entreprise chiffre la durée totale à quatre semaines, contre des années pour des équipes expertes jusqu’ici.

Un test avec des bogues connus

Pour vérifier que le système distingue le code correct du code défectueux, les chercheurs de DeepMind ont réintroduit deux bogues réels, déjà corrigés, dans une copie isolée du code de Signal. Dans les deux cas, affirme l’entreprise, le système a produit une preuve vérifiée par machine que la version boguée n’était pas sûre.

Le directeur technique de Signal, Ehren Kret, est cité dans le billet : utiliser des agents d’IA pour traduire du code vivant en théorèmes Lean valides constitue selon lui une avancée majeure, et une implémentation rigoureusement vérifiée donne à l’organisation davantage de confiance dans ses garanties de confidentialité.

Un panneau de brassage réseau avec des câbles branchés
Le protocole Signal chiffre les messages de Signal et de Google Messages. Photo d'illustration. Brett Sayles · pexels · Pexels License

Ce que cela ne règle pas

Tous les chiffres cités viennent de DeepMind, publiés dans un billet d’entreprise accompagné d’un article technique, et la revendication de primeur n’a pas été arbitrée de façon indépendante. Une preuve ne couvre par ailleurs que ce que dit la spécification, et les spécifications sont écrites par des humains : le billet précise lui-même que des experts les ont définies et relues.

DeepMind annonce ouvrir le code de ses artefacts de vérification formelle, la partie que des chercheurs extérieurs peuvent contrôler. L’entreprise présente ce résultat comme une base pour vérifier d’autres systèmes, citant le micrologiciel d’appareils médicaux et les logiciels du réseau électrique, aux côtés de CodeMender, l’agent de réparation automatique de code présenté l’an dernier. Reste à voir si le chiffre de quatre semaines tient sur une base de code que personne n’a étudiée pendant des décennies.