Tre labber, tre mer dempede modeller

Kinas største KI-utviklere har begynt å slippe modeller med nedskårne offensive cyberevner, foran et regjeringsforslag om eksportforbud mot teknologi som kan angripe nettverk. Bloomberg omtalte skiftet 17. november, i en sak Business Standard publiserte.

Tencent fjernet cyberfunksjoner fra Hy4-modellen før den ble sluppet tidligere denne måneden. Moonshot AI gjorde det samme med Kimi K3.1 Pro. Alibaba slapp den nyeste utgaven av flaggskipsserien Qwen uten å publisere vektene i det hele tatt, noe som hindrer brukere i å laste ned hele modellen og endre den lokalt. Z.AI gjennomførte sikkerhetsgjennomganger og varslet berørte organisasjoner om sårbarheter før GLM-5.3 ble sluppet med åpne vekter i august.

Hvorfor vektene betyr noe

Modeller med åpne vekter er dem angripere liker, fordi de kan kjøres på en maskin ingen andre styrer og justeres uten at en leverandør ser på. Qwen har vært blant verdens mest nedlastede familier med åpne vekter, og DeepSeeks utgivelser har vært populære av samme grunn. Å holde tilbake vektene til et flaggskip er derfor like mye en sikkerhetsbeslutning som en kommersiell.

Forseglede pappesker stablet på en trepall
Utkastet dekker 40 teknologier innen KI, biomedisin og solceller. Illustrerende arkivbilde. Freek Wolsink · pexels · Pexels License

“Modellenes cyberevne, og snart deres bioevne, vil nå en terskel der det faktisk er mulig å gjøre skade”, sa Yao Shunyu, Tencents sjefsforsker for KI og tidligere OpenAI-forsker, på et arrangement i Hongkong denne måneden.

Regelen bak retretten

I midten av oktober sendte handelsdepartementet og departementet for vitenskap og teknologi et utkast på høring til katalogen over teknologi som er forbudt eller begrenset for eksport. Utkastet dekker 40 teknologier innen KI, biomedisin og solceller, og foreslår eksportforbud for 14 og begrensninger for 26. Etter forslaget vil KI-verktøy som kan angripe kritisk nasjonal infrastruktur, offentlige nett eller militære mål bli forbudt helt, og store modeller som vurderes som verdensledende kan møte restriksjoner på utrulling i utlandet.

Utkastet når også åpen kildekode. Teknologi i den forbudte klassen — blant annet enkelte KI-drevne angrepsteknologier — vil som hovedregel ikke kunne slippes som åpen kildekode, mens begrenset teknologi kan få forenklet lisensiering.

“Kina forsøker å finne en balanse mellom internasjonal kommersialisering og strategisk kontroll over sin KI-teknologi”, sa Charles Li, sjefanalytiker i trusselovervåkeren TeamT5 i Asia-Stillehavsregionen, til Bloomberg. “Når kinesiske frontmodeller etter sigende tetter gapet til de amerikanske i cybersikkerhetsevner, ser Beijing i økende grad disse evnene som strategiske ressurser som fortjener strengere eksportkontroll.”

En tung ståldør med en industriell slå
Forbudt teknologi vil som hovedregel ikke kunne slippes som åpen kildekode. Illustrerende arkivbilde. Jan van der Wolf · pexels · Pexels License

Samme grep, fra den andre siden

Amerikanske labber kom først til en lignende posisjon, langs en annen vei. Anthropic har holdt modellen Claude Mythos Preview utenfor allmenn lansering og gjør den tilgjengelig for utvalgte organisasjoner til defensivt sikkerhetsarbeid. I løpet av sommeren meldte både Anthropic og OpenAI om hendelser der modellene deres kom forbi sikkerhetskontroller og angrep tredjeparts nettsteder.

Kinesiske modeller har gitt sin egen versjon av problemet: Moonshots Kimi K3 brøt ut av et testmiljø hos Storbritannias AI Security Institute. Den gikk ikke løs på andre selskapers nettsteder, men forskerne sa den gang at episoden viste at modellen manglet cybersikkerhetskontroller.

Å fjerne offensivt materiale fra treningsdata er en fornuftig måte å gjøre modeller med åpne vekter vanskeligere å misbruke på, sa Xiaojian Li, grunnlegger av KI-sikkerhetsselskapet Fangcun AI, til Bloomberg.

Hva man skal følge

Høringsfristen for utkastet er ute, og ingen utenfor departementene vet ennå om de endelige reglene vil svare til det. Det som allerede er synlig, er atferdsendringen: for første gang bestemmes evnen et kinesisk lab velger å ikke sende, av en eksportregel som ennå ikke har trådt i kraft.