Vad som föreslås
Melanie Sisson, senior forskare vid Brookings Institution, och Tianjiao Jiang, docent vid Fudanuniversitetet, publicerade i mitten av september en uppsättning rekommendationer om gränser för militär AI som USA och Kina skulle kunna enas om utan att lösa något annat mellan sig.
Fyra av de fem är förbud. AI bör inte självständigt besluta om kärnvapeninsats. AI bör inte självständigt angripa motpartens system för kärnvapenledning och kontroll. Människor bör behålla ensam befogenhet att inleda betydande AI-understödda cyberangrepp mot det andra landets kärnvapenledning, kontroll och kommunikation, eller mot strategiskt viktig infrastruktur som energi, finans och sjukvård. Och båda sidor bör enas om en gemensam definition av meningsfull mänsklig kontroll, ett uttryck som rustningskontrolldokument använder ständigt utan att precisera.
Den femte punkten
Den femte är en särskild militär kanal mellan länderna för att rapportera AI-incidenter — en het linje, i den mening kalla kriget gav ordet.
Det är det förslag som har störst chans att överleva kontakt med någondera regeringen, eftersom det inte binder någon till en förmågebegränsning. Det är också det med tydligast teori bakom sig: om en modell gör något oväntat inne i ett militärt system är det farliga intervallet det som löper innan motparten vet om det var en olycka.
Varifrån det kommer
Båda författarna deltar i dialogen om AI och nationell säkerhet mellan USA och Kina, som pågått sedan 2019 inom Brookings Institution och Tsinghuauniversitetets centrum för internationell säkerhet och strategi. Detta är andraspårsdiplomati: forskare som samtalar i en struktur regeringar följer utan att bindas av.
Det sakliga prejudikatet är överenskommelsen i november 2024 mellan Joe Biden och Xi Jinping om att behålla mänsklig kontroll över kärnvapenbeslut. Rekommendationerna sträcker ut den principen, från beslutet att avfyra till systemen som bär upp det.
Tidpunkten
Texten kom inför nya officiella AI-samtal mellan USA och Kina och ett möte mellan Trump och Xi som väntas i Washington den 24 september. Ingen av regeringarna har ställt sig bakom något av det.
Det är det ärliga måttet på var detta står. Andraspårsarbete producerar den text tjänstemän kan plocka upp om de bestämmer sig för att de vill ha en, och dess funktion denna månad är att något är skrivet före mötet snarare än efter.
Att hålla ögonen på
Om AI förekommer i vad de två regeringarna säger den 24 september, och särskilt om incidentkanalen nämns. En het linje är den billigaste förtroendeskapande åtgärd som finns, vilket gör dess frånvaro ur ett kommuniké mer talande än dess närvaro.
