Beviser om koden, ikke om designet

Google DeepMind meddelte den 10. november, at virksomhedens AI-agenter matematisk havde bevist centrale sikkerhedsegenskaber ved den kode, der implementerer Signalprotokollen, krypteringen bag Signal og Google Messages. Virksomheden kaldte det første gang, kunstig intelligens er brugt til formelt at verificere en bredt udrullet kryptografisk protokol på dette niveau, og første gang implementeringen af en sådan protokol er blevet formelt verificeret overhovedet, med eller uden AI.

Forskellen betyder noget. Kryptografer har i årtier analyseret protokoller matematisk, men DeepMind påpeger, at størstedelen af det arbejde stopper på designniveau — et bevis om idéen snarere end om den software, folk rent faktisk kører. I indlægget, skrevet af Pushmeet Kohli og Swarat Chaudhuri, siger virksomheden, at dens agenter gik videre og beviste, at den kompilerede kode opfylder de sikkerhedsegenskaber, eksperterne specificerede, helt ned til det, der kører på enhederne.

Borde og reoler i en stille bibliotekslæsesal
Menneskelige eksperter skrev og gennemgik hver formel specifikation, agenterne beviste imod. Illustrationsfoto. Pixabay · pexels · Pexels License

Blandt egenskaberne nævner DeepMind, at beskeder forbliver beskyttede både før og efter, at en enhed midlertidigt er kompromitteret. Virkelige sårbarheder, skriver virksomheden, gemmer sig ofte i kløften mellem et design og dets implementering, og netop det gør kløften svær at lukke.

Sådan blev arbejdet delt op

Systemet hedder AlphaProof Code, og DeepMind beskriver det som et agentisk rammeværk med flere sprogmodeller, der deler formel verifikation op, som et forskerhold ville gøre. Menneskelige eksperter arbejdede med en blanding af modeller for at oversætte Signals sikkerhedsmål til formelle matematiske specifikationer og gennemgik hver eneste af dem. Derefter udførte agenter drevet af Gemini Carbon beviserne og genererede mere end seks millioner linjer Lean, det sprog hvori beviserne maskinkontrolleres.

Agenterne reviderede så deres eget resultat og udpegede de dele, der krævede menneskelig dømmekraft — omkring én procent af kodebasen ifølge DeepMind. Lean kontrollerer resten automatisk. Virksomheden sætter den samlede tid til fire uger mod de år, ekspertteams historisk har brugt.

En test med kendte fejl

For at kontrollere, at systemet kan skelne korrekt kode fra defekt kode, genindsatte DeepMinds forskere to reelle, tidligere rettede fejl i en isoleret kopi af Signals kode. I begge tilfælde, oplyser virksomheden, producerede systemet et maskinkontrolleret bevis for, at den fejlbehæftede version var usikker.

Signals teknologidirektør Ehren Kret citeres i indlægget for, at det er et stort gennembrud at bruge AI-agenter til at oversætte levende kode til gyldige Lean-teoremer, og at en grundigt verificeret protokolimplementering giver organisationen større tillid til dens privatlivsgarantier.

Et netværkspanel med kabler tilsluttet
Signalprotokollen krypterer beskeder i Signal og Google Messages. Illustrationsfoto. Brett Sayles · pexels · Pexels License

Hvad der ikke er afgjort

Alle tal her kommer fra DeepMind selv, offentliggjort i et firmaindlæg sammen med en teknisk artikel, og påstanden om at være først er ikke prøvet uafhængigt. Et bevis dækker desuden kun det, specifikationen siger, og specifikationer skrives af mennesker — indlægget gør selv klart, at menneskelige eksperter definerede og gennemgik hver enkelt.

DeepMind siger, at virksomheden frigiver sine verifikationsartefakter som åben kildekode, hvilket er den del, udenforstående forskere kan kontrollere. Virksomheden præsenterede resultatet som grundlag for at verificere andre systemer og nævnte firmware i medicinsk udstyr og software i elnettet sammen med CodeMender, agenten til automatisk kodereparation, som blev præsenteret sidste år. Om tallet på fire uger holder for en kodebase, ingen har studeret i årtier, er det næste at holde øje med.