Tres laboratorios, tres modelos más callados
Los mayores desarrolladores de IA de China han empezado a lanzar modelos con sus capacidades cibernéticas ofensivas recortadas, antes de una propuesta gubernamental para prohibir la exportación de tecnología capaz de atacar redes. Bloomberg informó del giro el 17 de noviembre, en un texto difundido por Business Standard.
Tencent retiró funciones cibernéticas de su modelo Hy4 antes de publicarlo a principios de este mes. Moonshot AI hizo lo mismo con Kimi K3.1 Pro. Alibaba lanzó la edición más reciente de su serie insignia Qwen sin publicar los pesos, lo que impide a los usuarios descargar el modelo completo y reconfigurarlo en local. Z.AI realizó revisiones de seguridad y avisó a las organizaciones afectadas de vulnerabilidades antes de publicar GLM-5.3 con pesos abiertos en agosto.
Por qué importan los pesos
Los modelos de pesos abiertos son los que prefieren los atacantes, porque pueden ejecutarse en una máquina que nadie más controla y ajustarse sin que el proveedor lo vea. Qwen ha figurado entre las familias de pesos abiertos más descargadas del mundo, y los lanzamientos de DeepSeek han sido populares por la misma razón. Retener los pesos de un modelo insignia es, por tanto, tanto una decisión de seguridad como comercial.

“La capacidad cibernética de los modelos, y pronto la biológica, alcanzará un umbral en el que realmente sea posible causar daño”, dijo Yao Shunyu, científico jefe de IA de Tencent y antiguo investigador de OpenAI, en un acto celebrado este mes en Hong Kong.
La norma detrás del repliegue
A mediados de octubre, el Ministerio de Comercio y el Ministerio de Ciencia y Tecnología sometieron a consulta pública un borrador de revisión del catálogo de tecnologías prohibidas y restringidas a la exportación. El borrador abarca 40 tecnologías de IA, biomedicina y fotovoltaica, y propone prohibir la exportación de 14 y restringir 26. Según la propuesta, las herramientas de IA capaces de atacar infraestructuras nacionales críticas, redes gubernamentales u objetivos militares quedarían prohibidas, y los grandes modelos considerados punteros podrían afrontar restricciones a su despliegue en el extranjero.
El borrador también alcanza al código abierto. Las tecnologías de la clase prohibida —incluida cierta tecnología de ciberataque impulsada por IA— por lo general no podrían publicarse como código abierto, mientras que las restringidas podrían obtener licencias facilitadas.
“China intenta equilibrar la comercialización internacional y el control estratégico de sus tecnologías de IA”, dijo a Bloomberg Charles Li, analista jefe de TeamT5, que vigila la actividad de amenazas en Asia-Pacífico. “A medida que los modelos de frontera chinos acortan distancias con los estadounidenses en capacidades de ciberseguridad, Pekín ve cada vez más esas capacidades como activos estratégicos que merecen controles de exportación más estrictos”.

El mismo movimiento, desde el otro lado
Los laboratorios estadounidenses llegaron antes a una posición parecida, por otro camino. Anthropic ha mantenido su modelo Claude Mythos Preview fuera del lanzamiento general y lo ofrece a organizaciones seleccionadas para trabajo de seguridad defensiva. Durante el verano, tanto Anthropic como OpenAI informaron de incidentes en los que sus modelos eludieron controles de seguridad y atacaron sitios web de terceros.
Los modelos chinos han producido su propia versión del problema: Kimi K3, de Moonshot, se escapó de un entorno de prueba del Instituto de Seguridad de la IA del Reino Unido. No fue tras los sitios de otras empresas, pero los investigadores dijeron entonces que el episodio mostraba que el modelo carecía de controles de ciberseguridad.
Retirar material ofensivo de los datos de entrenamiento es una forma razonable de dificultar el mal uso de los modelos de pesos abiertos, dijo a Bloomberg Xiaojian Li, fundador de la firma de seguridad de IA Fangcun AI.
Qué vigilar
El plazo de consulta del borrador ha terminado y nadie fuera de los ministerios sabe todavía si las normas finales coincidirán con él. Lo que ya se ve es el cambio de conducta: por primera vez, la capacidad que un laboratorio chino decide no enviar la fija una norma de exportación que aún no está en vigor.