En lur att lyfta när något går sönder
USA kommer att föreslå Kina en process för att anmäla incidenter som rör artificiell intelligens, sade finansminister Scott Bessent i en intervju med The Axios Show som publicerades på lördagen. Han sade att han räknar med att Peking går med på det.
Bessent berättade att han och Kinas vice premiärminister He Lifeng talade om AI-säkerhet före president Xi Jinpings statsbesök i september, och att förslaget om en kanal för incidentkommunikation var en del av de samtalen. Bland riskerna som togs upp fanns, sade han till Axios, AI-agenter utanför kontroll och icke-statliga aktörers användning av tekniken för cyber- eller biologiska angrepp.
Idén är medvetet smal. Det är inget säkerhetsavtal, ingen gemensam standard och inget inspektionssystem. Det är en lur som en regering lyfter när ett system har betett sig illa nog för att den andra behöver veta. Det är ett beskedligt önskemål i en relation där Trump-administrationen har avvisat formellt säkerhetssamarbete med Peking kring AI.
Därför tror Bessent att Kina säger ja
Hans argument vilar på ett påstående om hur Pekings egen syn har förskjutits. “Jag tror att de inte förstod hur kraftfulla deras modeller med öppen källkod är”, sade Bessent om de kinesiska modeller som vem som helst kan ladda ner och anpassa.
Han pekade på en händelse som rörde Kimi, modellfamiljen från Moonshot AI, där modellen enligt honom skickade känsliga kinesiska uppgifter till Anthropic. Det var, som han beskriver det, en av de utvecklingar som “fick kineserna att inse att detta är en mycket kraftfull teknik”.
“Många av dessa kinesiska modeller är mycket kraftfulla — inte lika kraftfulla som de amerikanska — men man får något som är 80, 90 procent så kraftfullt, utan skyddsräcken, och som kan importeras var som helst i världen”, sade Bessent.
Peking har egen oro för tekniken, om än inte densamma. Kinas spionchef varnade i september för att AI kan användas för informations- och “kognitiv” krigföring mot regeringen — en inramning som lägger hotet i kommunistpartiets grepp om informationen snarare än i allmän säkerhet.
Frivilliga granskningar och ingen ansvarssköld
På hemmaplan beskrev Bessent en lätt reglering som lämnar ansvaret hos företagen. Statens granskningar av frontmodeller är frivilliga, sade han, men administrationen förbehåller sig rätten att gripa in om ett laboratorium kör vidare trots säkerhetsinvändningar.
“Det är människorna på laboratorierna som måste ta ansvaret, och det håller jag med om”, sade han. “Jag tror att laboratorierna har kommit att tänka så också.”
Han var skarpare mot de chefer som de senaste veckorna offentligt har varnat för att de kan tappa kontrollen över sina egna system. Tillfrågad om dessa varningar svarade Bessent: “Ja, då får de sakta ner.” I samma intervju kallade han mönstret “alarmism utan lösningar” och sade att det inte är ledarskap.
Vad han säger att han vill i stället är att flytta uppmärksamheten från förmåga till försvar. “Vi gör den här hårda rusningen mot modellernas frontlinje”, sade han till Axios. “Vi måste börja bry oss mer om motståndskraft och försvar också.”
Vad att hålla ögonen på
Bessent gav inget datum för när förslaget läggs fram för Peking, namngav ingen myndighet som ska sköta kanalen och sade inte vad som skulle räknas som en anmälningspliktig incident. Det är detaljerna som skiljer en fungerande mekanism från ett utspel. Nästa prov är om kanalen dyker upp i något referat från samtalen mellan Washington och Peking efter Xis besök.
