En linje å ta når noe knekker
USA vil foreslå Kina en ordning for å varsle om hendelser som gjelder kunstig intelligens, sa finansminister Scott Bessent i et intervju med The Axios Show som ble publisert lørdag. Han sa at han regner med at Beijing vil gå med på det.
Bessent fortalte at han og Kinas viseministerpresident He Lifeng snakket om KI-sikkerhet før president Xi Jinpings statsbesøk i september, og at forslaget om en kanal for hendelseskommunikasjon var en del av de samtalene. Blant risikoene som ble tatt opp var, sa han til Axios, KI-agenter utenfor kontroll og ikke-statlige aktørers bruk av teknologien til cyber- eller biologiske angrep.
Ideen er bevisst smal. Det er ingen sikkerhetsavtale, ingen felles standard og ingen inspeksjonsordning. Det er en linje én regjering tar når et system har oppført seg ille nok til at den andre må vite det. Det er et beskjedent ønske i et forhold der Trump-administrasjonen har avvist formelt KI-sikkerhetssamarbeid med Beijing.
Derfor tror Bessent at Kina sier ja
Argumentet hans hviler på en påstand om hvordan Beijings egen tenkning har flyttet seg. “Jeg tror de ikke forsto hvor kraftige modellene deres med åpen kildekode er”, sa Bessent om de kinesiske modellene som hvem som helst kan laste ned og tilpasse.
Han pekte på en hendelse som gjaldt Kimi, modellfamilien fra Moonshot AI, der modellen etter hans ord sendte sensitive kinesiske data til Anthropic. Det var, slik han beskriver det, en av utviklingene som “fikk kineserne til å forstå at dette er en svært kraftig teknologi”.
“Mange av disse kinesiske modellene er svært kraftige — ikke så kraftige som de amerikanske — men man får noe som er 80, 90 prosent så kraftig, uten sikringer, og som kan importeres hvor som helst i verden”, sa Bessent.
Beijing har sin egen uro for teknologien, men ikke den samme. Kinas etterretningssjef advarte i september om at KI kan brukes til informasjons- og “kognitiv” krigføring mot myndighetene — en innramming som legger trusselen i kommunistpartiets grep om informasjonen heller enn i allmenn sikkerhet.
Frivillige gjennomganger og ingen ansvarsskjold
Hjemme beskrev Bessent en lett regulering som legger ansvaret hos selskapene. Statens gjennomganger av frontmodeller er frivillige, sa han, men administrasjonen forbeholder seg retten til å gripe inn dersom et laboratorium kjører videre tross sikkerhetsinnvendinger.
“Det er menneskene på laboratoriene som må ta ansvaret, og det er jeg enig i”, sa han. “Jeg tror laboratoriene har kommet til å tenke slik også.”
Han var skarpere mot lederne som de siste ukene offentlig har advart om at de kan miste kontrollen over sine egne systemer. Spurt om disse advarslene svarte Bessent: “Vel, da bør de senke farten.” I samme intervju kalte han mønsteret “alarmisme uten løsninger” og sa at det ikke er lederskap.
Det han sier han vil i stedet, er å flytte oppmerksomheten fra kapasitet til forsvar. “Vi driver dette harde rykket mot modellenes front”, sa han til Axios. “Vi må begynne å bry oss mer om motstandskraft og forsvar også.”
Hva du skal følge med på
Bessent ga ingen dato for å legge forslaget fram for Beijing, navnga ingen etat som skal drive kanalen, og sa ikke hva som ville regnes som en varslingspliktig hendelse. Det er detaljene som skiller en fungerende mekanisme fra et utspill. Neste prøve er om kanalen dukker opp i noe referat fra samtalene mellom Washington og Beijing etter Xis besøk.
