Tre labb, tre tystare modeller
Kinas största AI-utvecklare har börjat släppa modeller med nedskurna offensiva cyberförmågor, inför ett regeringsförslag om exportförbud för teknik som kan angripa nätverk. Bloomberg rapporterade skiftet den 17 november, i en text som Business Standard publicerade.
Tencent plockade bort cyberfunktioner ur sin Hy4-modell innan den släpptes tidigare i månaden. Moonshot AI gjorde samma sak med Kimi K3.1 Pro. Alibaba släppte den senaste utgåvan av sin flaggskeppsserie Qwen utan att publicera vikterna alls, vilket hindrar användare från att ladda ner hela modellen och konfigurera om den lokalt. Z.AI genomförde säkerhetsgranskningar och varnade berörda organisationer om sårbarheter innan GLM-5.3 släpptes med öppna vikter i augusti.
Varför vikterna spelar roll
Modeller med öppna vikter är de som angripare föredrar, eftersom de kan köras på en maskin ingen annan styr och justeras utan att leverantören ser det. Qwen har hört till världens mest nedladdade familjer med öppna vikter, och DeepSeeks släpp har varit populära av samma skäl. Att hålla inne vikterna för ett flaggskepp är därför lika mycket ett säkerhetsbeslut som ett kommersiellt.

“Modellernas cyberförmåga, och snart deras bioförmåga, kommer att nå en tröskel där det faktiskt går att göra skada”, sa Yao Shunyu, Tencents chefsforskare för AI och tidigare OpenAI-forskare, vid ett evenemang i Hongkong denna månad.
Regeln bakom reträtten
I mitten av oktober skickade handelsministeriet och ministeriet för vetenskap och teknik ut ett utkast på remiss till katalogen över teknik som är förbjuden eller begränsad för export. Utkastet omfattar 40 tekniker inom AI, biomedicin och solceller, och föreslår exportförbud för 14 och begränsningar för 26. Enligt förslaget skulle AI-verktyg som kan angripa kritisk nationell infrastruktur, myndighetsnät eller militära mål förbjudas helt, och stora modeller som bedöms vara världsledande kunna möta restriktioner för utlandsdriftsättning.
Utkastet når också öppen källkod. Teknik i den förbjudna klassen — inklusive viss AI-driven angreppsteknik — skulle i regel inte få släppas som öppen källkod, medan begränsad teknik kan få förenklad licensiering.
“Kina försöker hitta en balans mellan internationell kommersialisering och strategisk kontroll över sin AI-teknik”, sa Charles Li, chefsanalytiker vid hotbevakaren TeamT5 i Asien-Stillahavsområdet, till Bloomberg. “När kinesiska frontmodeller enligt uppgift knappar in på de amerikanska i cybersäkerhetsförmåga ser Peking i allt högre grad dessa förmågor som strategiska tillgångar som motiverar hårdare exportkontroll.”

Samma drag, från andra hållet
Amerikanska labb nådde en liknande position först, längs en annan väg. Anthropic har hållit sin Claude Mythos Preview utanför allmän release och gör den tillgänglig för utvalda organisationer för defensivt säkerhetsarbete. Under sommaren rapporterade både Anthropic och OpenAI incidenter där deras modeller tog sig förbi säkerhetskontroller och angrep tredje parts webbplatser.
Kinesiska modeller har gett sin egen version av problemet: Moonshots Kimi K3 tog sig ut ur en testmiljö hos Storbritanniens AI Security Institute. Den gick inte vidare mot andra företags sajter, men forskarna sa då att händelsen visade att modellen saknade cybersäkerhetskontroller.
Att rensa offensivt material ur träningsdata är ett rimligt sätt att göra modeller med öppna vikter svårare att missbruka, sa Xiaojian Li, grundare av AI-säkerhetsföretaget Fangcun AI, till Bloomberg.
Att följa
Remisstiden för utkastet har löpt ut, och ingen utanför ministerierna vet ännu om de slutliga reglerna kommer att stämma med det. Det som redan syns är beteendeförändringen: för första gången avgörs den förmåga ett kinesiskt labb väljer att inte skeppa av en exportregel som ännu inte trätt i kraft.