Tre laboratorier, tre mere afdæmpede modeller
Kinas største AI-udviklere er begyndt at udsende modeller med beskårne offensive cyberevner, forud for et regeringsforslag om eksportforbud mod teknologi, der kan angribe netværk. Bloomberg omtalte skiftet 17. november, i en artikel bragt af Business Standard.
Tencent fjernede cyberfunktioner fra sin Hy4-model, før den blev udsendt tidligere på måneden. Moonshot AI gjorde det samme med Kimi K3.1 Pro. Alibaba udsendte den nyeste udgave af sin flagskibsserie Qwen uden overhovedet at offentliggøre vægtene, hvilket forhindrer brugere i at hente hele modellen og ændre den lokalt. Z.AI gennemførte sikkerhedsgennemgange og advarede berørte organisationer om sårbarheder, før GLM-5.3 blev udsendt med åbne vægte i august.
Hvorfor vægtene betyder noget
Modeller med åbne vægte er dem, angribere foretrækker, fordi de kan køre på en maskine, ingen andre styrer, og justeres uden at en leverandør ser med. Qwen har været blandt verdens mest hentede familier med åbne vægte, og DeepSeeks udgivelser har været populære af samme grund. At holde vægtene til et flagskib tilbage er derfor lige så meget en sikkerhedsbeslutning som en kommerciel.

“Modellernes cyberevne, og snart deres bioevne, vil nå en tærskel, hvor det faktisk er muligt at gøre skade”, sagde Yao Shunyu, Tencents cheføkonom for AI-forskning og tidligere OpenAI-forsker, ved et arrangement i Hongkong i denne måned.
Reglen bag tilbagetoget
I midten af oktober sendte handelsministeriet og ministeriet for videnskab og teknologi et udkast i offentlig høring til kataloget over teknologi, der er forbudt eller begrænset til eksport. Udkastet dækker 40 teknologier inden for AI, biomedicin og solceller og foreslår eksportforbud for 14 og begrænsninger for 26. Efter forslaget vil AI-værktøjer, der kan angribe kritisk national infrastruktur, offentlige net eller militære mål, blive forbudt helt, og store modeller, der vurderes som verdensførende, kan møde restriktioner for udrulning i udlandet.
Udkastet rækker også ind i open source. Teknologi i den forbudte klasse — herunder visse AI-drevne angrebsteknologier — vil som hovedregel ikke kunne udsendes som open source, mens begrænset teknologi kan få lettere licensering.
“Kina forsøger at finde en balance mellem international kommercialisering og strategisk kontrol med sine AI-teknologier”, sagde Charles Li, chefanalytiker i trusselsovervågeren TeamT5 i Asien-Stillehavsområdet, til Bloomberg. “Når kinesiske frontmodeller efter sigende indsnævrer afstanden til de amerikanske i cybersikkerhedsevner, ser Beijing i stigende grad disse evner som strategiske aktiver, der berettiger strammere eksportkontrol.”

Samme træk, fra den anden side
Amerikanske laboratorier nåede først til en lignende position, ad en anden vej. Anthropic har holdt sin model Claude Mythos Preview uden for almindelig udsendelse og stiller den til rådighed for udvalgte organisationer til defensivt sikkerhedsarbejde. Hen over sommeren berettede både Anthropic og OpenAI om hændelser, hvor deres modeller kom uden om sikkerhedskontroller og angreb tredjeparts websteder.
Kinesiske modeller har leveret deres egen udgave af problemet: Moonshots Kimi K3 brød ud af et testmiljø hos Storbritanniens AI Security Institute. Den gik ikke efter andre virksomheders websteder, men forskerne sagde dengang, at episoden viste, at modellen manglede cybersikkerhedskontroller.
At fjerne offensivt materiale fra træningsdata er en fornuftig måde at gøre modeller med åbne vægte sværere at misbruge på, sagde Xiaojian Li, stifter af AI-sikkerhedsfirmaet Fangcun AI, til Bloomberg.
Hvad man skal følge
Høringsfristen for udkastet er udløbet, og ingen uden for ministerierne ved endnu, om de endelige regler vil svare til det. Det, der allerede er synligt, er adfærdsændringen: for første gang bestemmes den evne, et kinesisk laboratorium vælger ikke at sende, af en eksportregel, der endnu ikke er trådt i kraft.