Bevis om koden, ikke om utformingen

Google DeepMind meldte 10. november at selskapets KI-agenter matematisk hadde bevist sentrale sikkerhetsegenskaper ved koden som implementerer Signalprotokollet, krypteringen bak Signal og Google Messages. Selskapet kalte det første gang kunstig intelligens er brukt til å formelt verifisere en bredt utrullet kryptografisk protokoll på dette nivået, og første gang implementasjonen av en slik protokoll er formelt verifisert i det hele tatt, med eller uten KI.

Forskjellen betyr noe. Kryptografer har i tiår analysert protokoller matematisk, men DeepMind påpeker at mesteparten av det arbeidet stopper på utformingsnivå — et bevis om ideen, ikke om programvaren folk faktisk kjører. I innlegget, skrevet av Pushmeet Kohli og Swarat Chaudhuri, sier selskapet at agentene gikk lenger og beviste at den kompilerte koden oppfyller sikkerhetsegenskapene ekspertene spesifiserte, helt ned til det som kjører på enhetene.

Bord og hyller i en stille bibliotekssal
Menneskelige eksperter skrev og gikk gjennom hver formelle spesifikasjon agentene beviste mot. Illustrasjonsbilde. Pixabay · pexels · Pexels License

Blant egenskapene nevner DeepMind at meldinger holdes beskyttet både før og etter at en enhet midlertidig er kompromittert. Reelle sårbarheter, skriver selskapet, gjemmer seg ofte i gapet mellom en utforming og implementasjonen, og nettopp det gjør gapet vanskelig å lukke.

Slik ble arbeidet delt

Systemet heter AlphaProof Code, og DeepMind beskriver det som et agentisk rammeverk med flere språkmodeller som deler opp formell verifisering slik et forskerlag ville gjort. Menneskelige eksperter arbeidet med en blanding av modeller for å oversette Signals sikkerhetsmål til formelle matematiske spesifikasjoner, og gikk gjennom hver eneste av dem. Deretter utførte agenter drevet av Gemini Carbon bevisene og genererte mer enn seks millioner linjer Lean, språket der bevisene maskinkontrolleres.

Agentene reviderte så sitt eget resultat og pekte ut delene som krevde menneskelig skjønn — omtrent én prosent av kodebasen, ifølge DeepMind. Lean kontrollerer resten automatisk. Selskapet oppgir samlet tid til fire uker, mot de årene ekspertteam historisk har brukt.

En test med kjente feil

For å kontrollere at systemet skiller riktig kode fra ødelagt kode, gjeninnførte DeepMinds forskere to reelle, tidligere rettede feil i en isolert kopi av Signals kode. I begge tilfellene, opplyser selskapet, produserte systemet et maskinkontrollert bevis for at den feilbeheftede versjonen var usikker.

Signals teknologidirektør Ehren Kret siteres i innlegget på at det er et stort gjennombrudd å bruke KI-agenter til å oversette levende kode til gyldige Lean-teoremer, og at en grundig verifisert protokollimplementasjon gir organisasjonen større tillit til sine personvernløfter.

Et nettverkspanel med kabler koblet til
Signalprotokollen krypterer meldinger i Signal og Google Messages. Illustrasjonsbilde. Brett Sayles · pexels · Pexels License

Hva som ikke er avklart

Alle tallene her kommer fra DeepMind selv, publisert i et selskapsinnlegg sammen med en teknisk artikkel, og påstanden om å være først er ikke prøvd uavhengig. Et bevis dekker dessuten bare det spesifikasjonen sier, og spesifikasjoner skrives av mennesker — innlegget sier selv at menneskelige eksperter definerte og gikk gjennom hver enkelt.

DeepMind sier det åpner kildekoden for verifiseringsartefaktene sine, som er den delen utenforstående forskere kan kontrollere. Selskapet presenterte resultatet som grunnlag for å verifisere andre systemer, og nevnte fastvare i medisinsk utstyr og programvare i strømnettet, sammen med CodeMender, agenten for automatisk kodereparasjon som ble presentert i fjor. Om tallet på fire uker holder for en kodebase ingen har studert i tiår, er det neste å følge med på.