Frakoblet som utgangspunkt
Fire hundre og seks forskere har signert et åpent brev som ber enhver organisasjon som utvikler, setter i drift eller tester cyberkapable KI-modeller om å holde dem bak en luftspalte, og å behandle frakobling fra internett som utgangspunktet snarere enn siste utvei.
Brevet ble publisert denne måneden under tittelen “An Open Letter on AI and Cybersecurity from the Scientific Community”. Det åpner med hendelsene som utløste det: “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
Underskriverne avgjør ikke striden om hva disse sviktene betyr. Den ene lesningen, skriver de, er at de viser hvor viktig alignment-arbeidet er. Den andre er at de var “an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures”. Brevets svar er at begge lesningene holder, og at hendelsene vil fortsette uten umiddelbare endringer i hvordan modeller utvikles og settes i drift — og at framtidige hendelser blir langt mer skadelige for den eksponerte kritiske infrastrukturen.
Tre anbefalinger
Den første er umiddelbar og rettet mot labene. Organisasjoner som arbeider med cyberkapable modeller “should immediately adopt high-assurance containment systems” og “should exercise caution, and initially default to airgapping cyber-capable models”. Brevet forklarer luftspalten, i parentes, som “disconnecting from the internet”.
Den andre er institusjonell. I samråd med myndigheter og med eksperter på både KI og cybersikkerhet vil underskriverne at det opprettes et internasjonalt organ som standardiserer beste praksis for alignment og for innesperring som, i motsetning til luftspalten, tillater større tilgang utenfor sandkassen, for eksempel internettilkobling. Organet bør i tillegg ha mandat til å registrere og følge svikt i innesperringen.
Den tredje slutter sirkelen. Sikkerhetshendelser som gjelder brutt innesperring “must be reported to the body and eventually made public”, fordi den åpenheten trengs både for læringen og for ansvarliggjøringen.
Det brevet ikke gjør, er å navngi et selskap. Det beskriver rapporteringen samlet og overlater tilskrivingen til leseren.
Hvem som har signert
Navnelisten omfatter 406 personer ved institusjoner i 34 land, med de største gruppene i USA, Canada og Storbritannia. Det uvanlige er blandingen. KI-sikkerhetsfeltet er der — Yoshua Bengio, Geoffrey Hinton og Stuart Russell, som The Decoder påpekte — men også en stor kontingent fra akademisk kryptografi og systemsikkerhet, blant dem Dan Boneh ved Stanford og Srini Devadas ved MIT.
Den kombinasjonen er brevets underforståtte argument. Det behandler innesperring som et sikkerhetsteknisk problem minst like mye som et alignment-problem, og mener at spørsmålet om hvor mye internettilgang en modell skal få krever samarbeid mellom begge feltene.
Hva man skal følge med på
Brevet setter ingen frist og peker ikke ut noe forum for det internasjonale organet det ønsker, noe som gjør de institusjonelle anbefalingene til en retningsangivelse snarere enn et krav med dato.
Den umiddelbare anbefalingen er en annen sak, og den er den dyre. En modell som ikke når internett, kan ikke evalueres på oppgaver som krever internett — nettopp den typen oppgave som gjør en modell cyberkapabel i første omgang. Brevets første virkelige prøve er om noen utvikler av en frontmodell selv kunngjør luftspalte som standard, før en regjering ber om det.
