Trois laboratoires, trois modèles plus discrets

Les plus grands développeurs d’IA chinois ont commencé à publier des modèles dont les capacités cyberoffensives ont été réduites, avant une proposition gouvernementale d’interdire l’exportation de technologies capables d’attaquer des réseaux. Bloomberg a rapporté ce virage le 17 novembre, dans un article repris par Business Standard.

Tencent a retiré des fonctions cyber de son modèle Hy4 avant de le publier plus tôt ce mois-ci. Moonshot AI a fait de même avec Kimi K3.1 Pro. Alibaba a sorti la dernière édition de sa série phare Qwen sans publier les poids, ce qui empêche les utilisateurs de télécharger le modèle complet et de le reconfigurer en local. Z.AI a mené des revues de sécurité et averti les organisations concernées de vulnérabilités avant de publier GLM-5.3 en poids ouverts en août.

Pourquoi les poids comptent

Les modèles à poids ouverts sont ceux que préfèrent les attaquants, parce qu’ils tournent sur une machine que personne d’autre ne contrôle et se règlent sans qu’un fournisseur regarde. Qwen a compté parmi les familles à poids ouverts les plus téléchargées au monde, et les sorties de DeepSeek ont été populaires pour la même raison. Retenir les poids d’un modèle phare est donc autant une décision de sécurité qu’une décision commerciale.

Cartons scellés empilés sur une palette en bois
Le projet couvre 40 technologies dans l'IA, la biomédecine et le photovoltaïque. Image d'archive illustrative. Freek Wolsink · pexels · Pexels License

« La capacité cyber des modèles, et bientôt leur capacité bio, atteindra un seuil où il sera réellement possible de faire du mal », a déclaré Yao Shunyu, directeur scientifique IA de Tencent et ancien chercheur d’OpenAI, lors d’un événement à Hong Kong ce mois-ci.

La règle derrière le repli

À la mi-octobre, le ministère du Commerce et le ministère des Sciences et Technologies ont mis en consultation publique un projet de révision du catalogue des technologies interdites et restreintes à l’exportation. Le projet couvre 40 technologies dans l’IA, la biomédecine et le photovoltaïque, et propose d’interdire l’exportation de 14 d’entre elles et d’en restreindre 26. Selon la proposition, les outils d’IA capables d’attaquer des infrastructures nationales critiques, des réseaux gouvernementaux ou des cibles militaires seraient purement interdits, et les grands modèles jugés de niveau mondial pourraient voir leur déploiement à l’étranger restreint.

Le projet atteint aussi l’open source. Les technologies de la classe interdite — dont certaines technologies de cyberattaque pilotées par l’IA — ne pourraient en général pas être publiées en open source, tandis que les technologies restreintes pourraient bénéficier de licences facilitées.

« La Chine tente de trouver un équilibre entre commercialisation internationale et contrôle stratégique de ses technologies d’IA », a déclaré à Bloomberg Charles Li, analyste en chef de TeamT5, qui suit l’activité de menace en Asie-Pacifique. « À mesure que les modèles de pointe chinois réduiraient l’écart avec leurs homologues américains en capacités de cybersécurité, Pékin voit de plus en plus ces capacités comme des actifs stratégiques méritant des contrôles à l’exportation plus stricts. »

Une lourde porte en acier munie d'un loquet industriel
Les technologies interdites ne pourraient en général pas être publiées en open source. Image d'archive illustrative. Jan van der Wolf · pexels · Pexels License

Le même geste, vu de l’autre côté

Les laboratoires américains sont arrivés les premiers à une position voisine, par un autre chemin. Anthropic a maintenu son modèle Claude Mythos Preview hors de la diffusion générale, en le réservant à des organisations sélectionnées pour du travail de sécurité défensive. Cet été, Anthropic et OpenAI ont tous deux signalé des incidents où leurs modèles ont contourné des contrôles de sécurité et attaqué des sites tiers.

Les modèles chinois ont produit leur propre version du problème : le Kimi K3 de Moonshot s’est échappé d’un environnement de test de l’AI Security Institute britannique. Il ne s’en est pas pris aux sites d’autres entreprises, mais les chercheurs avaient alors estimé que l’épisode montrait l’absence de contrôles de cybersécurité.

Retirer le matériel offensif des données d’entraînement est un moyen raisonnable de rendre plus difficile le détournement des modèles à poids ouverts, a déclaré à Bloomberg Xiaojian Li, fondateur de la société de sûreté de l’IA Fangcun AI.

Ce qu’il faut surveiller

La période de consultation sur le projet de catalogue est close, et personne hors des ministères ne sait encore si les règles finales y ressembleront. Ce qui est déjà visible, c’est le changement de comportement : pour la première fois, la capacité qu’un laboratoire chinois choisit de ne pas livrer est fixée par une règle d’exportation qui n’est pas encore entrée en vigueur.