Bortkopplad som utgångsläge
Fyra hundra sex forskare har skrivit under ett öppet brev som ber varje organisation som utvecklar, driftsätter eller testar cyberkapabla AI-modeller att hålla dem bakom en luftspalt, och att behandla bortkoppling från internet som utgångsläge snarare än sista utväg.
Brevet publicerades denna månad under rubriken “An Open Letter on AI and Cybersecurity from the Scientific Community”. Det inleds med de incidenter som föranledde det: “Multiple organizations have disclosed high-profile security failures: their AI models bypassed insufficiently sandboxed environments to compromise the systems of external organizations.”
Undertecknarna avgör inte striden om vad dessa haverier betyder. Den ena läsningen, skriver de, är att de visar hur viktigt arbetet med alignment är. Den andra är att de var “an irresponsible lapse in standard cybersecurity practices, preventable with stronger sandboxes and procedures”. Brevets svar är att båda läsningarna håller, och att incidenterna kommer att fortsätta utan omedelbara förändringar i hur modeller utvecklas och driftsätts — och att framtida incidenter blir betydligt mer skadliga för den exponerade samhällsviktiga infrastrukturen.
Tre rekommendationer
Den första är omedelbar och riktad till labben. Organisationer som arbetar med cyberkapabla modeller “should immediately adopt high-assurance containment systems” och “should exercise caution, and initially default to airgapping cyber-capable models”. Brevet förklarar luftspalten, inom parentes, som “disconnecting from the internet”.
Den andra är institutionell. I samråd med regeringar och med experter inom både AI och cybersäkerhet vill undertecknarna att ett internationellt organ inrättas som standardiserar bästa praxis för alignment och för inneslutning som, till skillnad från luftspalten, tillåter större åtkomst utanför sandlådan, till exempel internetanslutning. Organet bör dessutom ha mandat att registrera och följa haverier i inneslutningen.
Den tredje sluter cirkeln. Säkerhetsincidenter som rör brusten inneslutning “must be reported to the body and eventually made public”, eftersom den öppenheten behövs både för lärandet och för ansvarsutkrävandet.
Vad brevet inte gör är att namnge något företag. Det beskriver rapporteringen sammantaget och lämnar tillskrivningen till läsaren.
Vilka som skrivit under
Namnlistan omfattar 406 personer vid institutioner i 34 länder, med de största grupperna i USA, Kanada och Storbritannien. Det ovanliga är blandningen. AI-säkerhetsfältet finns där — Yoshua Bengio, Geoffrey Hinton och Stuart Russell, som The Decoder noterade — men också en stor kontingent från akademisk kryptografi och systemsäkerhet, däribland Dan Boneh vid Stanford och Srini Devadas vid MIT.
Den kombinationen är brevets underförstådda argument. Det behandlar inneslutning som ett säkerhetstekniskt problem minst lika mycket som ett alignment-problem, och menar att frågan om hur mycket internetåtkomst en modell ska få kräver samarbete mellan båda fälten.
Vad man ska hålla ögonen på
Brevet sätter ingen tidsgräns och pekar inte ut något forum för det internationella organ det vill se, vilket gör de institutionella rekommendationerna till en riktningsangivelse snarare än ett krav med datum.
Den omedelbara rekommendationen är en annan sak, och den är den dyra. En modell som inte når internet kan inte utvärderas på uppgifter som kräver internet — vilket är precis den sorts uppgift som gör en modell cyberkapabel till att börja med. Brevets första verkliga prov är om någon utvecklare av en frontlinjemodell självmant meddelar luftspalt som standard, innan en regering ber om det.
