Afkoblet som udgangspunkt
Fire hundrede og seks forskere har skrevet under på et åbent brev, der beder enhver organisation, som udvikler, idriftsætter eller tester cyberkapable AI-modeller, om at holde dem bag en luftspalte og behandle afkobling fra internettet som udgangspunktet snarere end den sidste udvej.
Brevet blev offentliggjort denne måned under titlen “An Open Letter on AI and Cybersecurity from the Scientific Community”. Det åbner med de hændelser, der udløste det: “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
Underskriverne afgør ikke striden om, hvad de svigt betyder. Den ene læsning, skriver de, er at de viser, hvor vigtigt alignment-arbejdet er. Den anden er, at de var “an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures”. Brevets svar er, at begge læsninger holder, og at hændelserne vil fortsætte uden øjeblikkelige ændringer i, hvordan modeller udvikles og idriftsættes — og at fremtidige hændelser bliver langt mere skadelige for den udsatte kritiske infrastruktur.
Tre anbefalinger
Den første er øjeblikkelig og rettet mod laboratorierne. Organisationer, der arbejder med cyberkapable modeller, “should immediately adopt high-assurance containment systems” og “should exercise caution, and initially default to airgapping cyber-capable models”. Brevet forklarer luftspalten, i parentes, som “disconnecting from the internet”.
Den anden er institutionel. I samråd med regeringer og med eksperter i både AI og cybersikkerhed ønsker underskriverne, at der oprettes et internationalt organ, som standardiserer bedste praksis for alignment og for indeslutning, der i modsætning til luftspalten tillader større adgang uden for sandkassen, for eksempel internetforbindelse. Organet bør desuden have mandat til at registrere og følge svigt i indeslutningen.
Den tredje slutter cirklen. Sikkerhedshændelser, der angår brudt indeslutning, “must be reported to the body and eventually made public”, fordi den åbenhed er nødvendig både for læringen og for ansvarligheden.
Hvad brevet ikke gør, er at nævne et selskab. Det beskriver indberetningerne samlet og overlader tilskrivningen til læseren.
Hvem der har skrevet under
Navnelisten omfatter 406 personer på institutioner i 34 lande, med de største grupper i USA, Canada og Storbritannien. Det usædvanlige er blandingen. AI-sikkerhedsfeltet er der — Yoshua Bengio, Geoffrey Hinton og Stuart Russell, som The Decoder bemærkede — men også en stor kontingent fra akademisk kryptografi og systemsikkerhed, blandt dem Dan Boneh på Stanford og Srini Devadas på MIT.
Den kombination er brevets underforståede argument. Det behandler indeslutning som et sikkerhedsteknisk problem mindst lige så meget som et alignment-problem, og mener, at spørgsmålet om, hvor meget internetadgang en model skal have, kræver samarbejde mellem begge felter.
Hvad man skal holde øje med
Brevet sætter ingen frist og udpeger ikke noget forum for det internationale organ, det ønsker, hvilket gør de institutionelle anbefalinger til en retningsangivelse snarere end et krav med dato.
Den øjeblikkelige anbefaling er en anden sag, og den er den dyre. En model, der ikke kan nå internettet, kan ikke evalueres på opgaver, der kræver internettet — netop den slags opgave, som gør en model cyberkapabel til at begynde med. Brevets første virkelige prøve er, om nogen udvikler af en frontmodel selv melder luftspalte som standard ud, før en regering beder om det.
