Bevis om koden, inte om konstruktionen

Google DeepMind meddelade den 10 november att företagets AI-agenter matematiskt bevisat centrala säkerhetsegenskaper hos koden som implementerar Signalprotokollet, krypteringen bakom Signal och Google Messages. Företaget kallade det första gången AI använts för att formellt verifiera ett brett utrullat kryptografiskt protokoll på detta djup, och första gången implementationen av ett sådant protokoll verifierats formellt över huvud taget, med eller utan AI.

Skillnaden spelar roll. Kryptografer har i decennier analyserat protokoll matematiskt, men DeepMind påpekar att det mesta av det arbetet stannar på konstruktionsnivå — ett bevis om idén snarare än om programvaran som människor faktiskt kör. I inlägget, skrivet av Pushmeet Kohli och Swarat Chaudhuri, säger företaget att dess agenter gick längre och bevisade att den kompilerade koden uppfyller de säkerhetsegenskaper experterna specificerat, ända ned till det som körs på enheterna.

Bord och hyllor i en tyst biblioteksläsesal
Mänskliga experter skrev och granskade varje formell specifikation som agenterna bevisade mot. Illustrativ bild. Pixabay · pexels · Pexels License

Bland egenskaperna nämner DeepMind att meddelanden förblir skyddade både före och efter att en enhet tillfälligt komprometterats. Verkliga sårbarheter, skriver företaget, göms ofta i glappet mellan en konstruktion och dess implementation, och det är precis det som gör glappet svårt att sluta.

Så delades arbetet upp

Systemet heter AlphaProof Code, och DeepMind beskriver det som ett agentiskt ramverk med flera språkmodeller som delar upp formell verifiering på samma sätt som ett forskarlag skulle göra. Mänskliga experter arbetade med en blandning av modeller för att översätta Signals säkerhetsmål till formella matematiska specifikationer, och granskade var och en av dem. Därefter utförde agenter drivna av Gemini Carbon bevisen och genererade mer än sex miljoner rader Lean, språket där bevisen maskinkontrolleras.

Agenterna granskade sedan sitt eget resultat och pekade ut de delar som krävde mänskligt omdöme — omkring en procent av kodbasen, enligt DeepMind. Lean kontrollerar resten automatiskt. Företaget anger den totala tiden till fyra veckor, mot de år expertteam historiskt lagt ned.

Ett test med kända buggar

För att kontrollera att systemet kan skilja korrekt kod från trasig återinförde DeepMinds forskare två verkliga, tidigare rättade buggar i en isolerad kopia av Signals kod. I båda fallen, uppger företaget, producerade systemet ett maskinkontrollerat bevis för att den buggiga versionen var osäker.

Signals tekniska chef Ehren Kret citeras i inlägget och säger att det är ett stort genombrott att använda AI-agenter för att översätta levande kod till giltiga Lean-teorem, och att en rigoröst verifierad protokollimplementation ger organisationen större förtroende för sina integritetslöften.

En nätverkspanel med kablar inkopplade
Signalprotokollet krypterar meddelanden i Signal och Google Messages. Illustrativ bild. Brett Sayles · pexels · Pexels License

Vad som inte är avgjort

Alla siffror här kommer från DeepMind själv, publicerade i ett företagsinlägg tillsammans med en teknisk artikel, och påståendet om att vara först har inte prövats oberoende. Ett bevis täcker dessutom bara det som specifikationen säger, och specifikationer skrivs av människor — inlägget är tydligt med att mänskliga experter definierade och granskade varje enskild.

DeepMind säger att man öppnar källkoden för sina verifieringsartefakter, vilket är den del utomstående forskare kan kontrollera. Företaget presenterade resultatet som grund för att verifiera andra system, och nämnde firmware i medicinteknisk utrustning och programvara i elnätet, tillsammans med CodeMender, agenten för automatisk kodreparation som företaget presenterade i fjol. Om fyraveckorssiffran håller för en kodbas som ingen studerat i decennier är nästa sak att följa.