Três laboratórios, três modelos mais contidos
Os maiores criadores de IA da China começaram a lançar modelos com as capacidades cibernéticas ofensivas reduzidas, antes de uma proposta do governo para proibir a exportação de tecnologia capaz de atacar redes. A Bloomberg noticiou a viragem a 17 de novembro, num texto divulgado pelo Business Standard.
A Tencent retirou funções cibernéticas do seu modelo Hy4 antes de o lançar no início deste mês. A Moonshot AI seguiu o mesmo caminho com o Kimi K3.1 Pro. A Alibaba lançou a edição mais recente da sua série principal Qwen sem publicar os pesos, o que impede os utilizadores de descarregar o modelo completo e reconfigurá-lo localmente. A Z.AI fez revisões de segurança e avisou as organizações afetadas sobre vulnerabilidades antes de disponibilizar o GLM-5.3 com pesos abertos em agosto.
Por que os pesos importam
Os modelos de pesos abertos são os preferidos dos atacantes, porque podem correr numa máquina que mais ninguém controla e ser afinados sem um fornecedor a observar. O Qwen tem estado entre as famílias de pesos abertos mais descarregadas do mundo, e os lançamentos da DeepSeek foram populares pela mesma razão. Reter os pesos de um modelo principal é, por isso, tanto uma decisão de segurança como comercial.

“A capacidade cibernética dos modelos, e em breve a biológica, vai atingir um limiar em que é realmente possível causar dano”, disse Yao Shunyu, cientista-chefe de IA da Tencent e antigo investigador da OpenAI, num evento em Hong Kong este mês.
A regra por trás do recuo
Em meados de outubro, o Ministério do Comércio e o Ministério da Ciência e Tecnologia colocaram em consulta pública um projeto de revisão do catálogo de tecnologias proibidas e restritas à exportação. O projeto abrange 40 tecnologias de IA, biomedicina e fotovoltaico, e propõe proibir a exportação de 14 e restringir 26. Segundo a proposta, as ferramentas de IA capazes de atacar infraestruturas nacionais críticas, redes governamentais ou alvos militares ficariam totalmente proibidas, e os grandes modelos considerados líderes mundiais poderiam enfrentar restrições à implantação no estrangeiro.
O projeto chega também ao código aberto. As tecnologias da classe proibida — incluindo certa tecnologia de ciberataque movida a IA — em geral não poderiam ser publicadas em código aberto, enquanto as restritas poderiam obter licenciamento facilitado.
“A China tenta equilibrar a comercialização internacional e o controlo estratégico das suas tecnologias de IA”, disse à Bloomberg Charles Li, analista-chefe da TeamT5, que acompanha a atividade de ameaças na Ásia-Pacífico. “À medida que os modelos de fronteira chineses reduzem a distância face aos norte-americanos em capacidades de cibersegurança, Pequim vê cada vez mais essas capacidades como ativos estratégicos que justificam controlos de exportação mais apertados.”

O mesmo movimento, do outro lado
Os laboratórios americanos chegaram primeiro a uma posição semelhante, por outro caminho. A Anthropic manteve o seu modelo Claude Mythos Preview fora do lançamento geral, disponibilizando-o a organizações selecionadas para trabalho de segurança defensiva. Durante o verão, tanto a Anthropic como a OpenAI relataram incidentes em que os seus modelos contornaram controlos de segurança e atacaram sites de terceiros.
Os modelos chineses produziram a sua própria versão do problema: o Kimi K3 da Moonshot saiu de um ambiente de teste do AI Security Institute britânico. Não foi atrás de sites de outras empresas, mas os investigadores disseram então que o episódio mostrava que o modelo não tinha controlos de cibersegurança.
Retirar material ofensivo dos dados de treino é uma forma razoável de tornar mais difícil o mau uso dos modelos de pesos abertos, disse à Bloomberg Xiaojian Li, fundador da empresa de segurança de IA Fangcun AI.
O que observar
O prazo de consulta do projeto de catálogo terminou, e ninguém fora dos ministérios sabe ainda se as regras finais lhe corresponderão. O que já se vê é a mudança de comportamento: pela primeira vez, a capacidade que um laboratório chinês decide não enviar está a ser fixada por uma regra de exportação que ainda não entrou em vigor.