Três laboratórios, três modelos mais contidos

Os maiores criadores de IA da China começaram a lançar modelos com as capacidades cibernéticas ofensivas reduzidas, antes de uma proposta do governo para proibir a exportação de tecnologia capaz de atacar redes. A Bloomberg noticiou a viragem a 17 de novembro, num texto divulgado pelo Business Standard.

A Tencent retirou funções cibernéticas do seu modelo Hy4 antes de o lançar no início deste mês. A Moonshot AI seguiu o mesmo caminho com o Kimi K3.1 Pro. A Alibaba lançou a edição mais recente da sua série principal Qwen sem publicar os pesos, o que impede os utilizadores de descarregar o modelo completo e reconfigurá-lo localmente. A Z.AI fez revisões de segurança e avisou as organizações afetadas sobre vulnerabilidades antes de disponibilizar o GLM-5.3 com pesos abertos em agosto.

Por que os pesos importam

Os modelos de pesos abertos são os preferidos dos atacantes, porque podem correr numa máquina que mais ninguém controla e ser afinados sem um fornecedor a observar. O Qwen tem estado entre as famílias de pesos abertos mais descarregadas do mundo, e os lançamentos da DeepSeek foram populares pela mesma razão. Reter os pesos de um modelo principal é, por isso, tanto uma decisão de segurança como comercial.

Caixas de cartão seladas empilhadas numa palete de madeira
O projeto abrange 40 tecnologias de IA, biomedicina e fotovoltaico. Imagem de arquivo ilustrativa. Freek Wolsink · pexels · Pexels License

“A capacidade cibernética dos modelos, e em breve a biológica, vai atingir um limiar em que é realmente possível causar dano”, disse Yao Shunyu, cientista-chefe de IA da Tencent e antigo investigador da OpenAI, num evento em Hong Kong este mês.

A regra por trás do recuo

Em meados de outubro, o Ministério do Comércio e o Ministério da Ciência e Tecnologia colocaram em consulta pública um projeto de revisão do catálogo de tecnologias proibidas e restritas à exportação. O projeto abrange 40 tecnologias de IA, biomedicina e fotovoltaico, e propõe proibir a exportação de 14 e restringir 26. Segundo a proposta, as ferramentas de IA capazes de atacar infraestruturas nacionais críticas, redes governamentais ou alvos militares ficariam totalmente proibidas, e os grandes modelos considerados líderes mundiais poderiam enfrentar restrições à implantação no estrangeiro.

O projeto chega também ao código aberto. As tecnologias da classe proibida — incluindo certa tecnologia de ciberataque movida a IA — em geral não poderiam ser publicadas em código aberto, enquanto as restritas poderiam obter licenciamento facilitado.

“A China tenta equilibrar a comercialização internacional e o controlo estratégico das suas tecnologias de IA”, disse à Bloomberg Charles Li, analista-chefe da TeamT5, que acompanha a atividade de ameaças na Ásia-Pacífico. “À medida que os modelos de fronteira chineses reduzem a distância face aos norte-americanos em capacidades de cibersegurança, Pequim vê cada vez mais essas capacidades como ativos estratégicos que justificam controlos de exportação mais apertados.”

Uma pesada porta de aço com um trinco industrial
As tecnologias proibidas em geral não poderiam ser publicadas em código aberto. Imagem de arquivo ilustrativa. Jan van der Wolf · pexels · Pexels License

O mesmo movimento, do outro lado

Os laboratórios americanos chegaram primeiro a uma posição semelhante, por outro caminho. A Anthropic manteve o seu modelo Claude Mythos Preview fora do lançamento geral, disponibilizando-o a organizações selecionadas para trabalho de segurança defensiva. Durante o verão, tanto a Anthropic como a OpenAI relataram incidentes em que os seus modelos contornaram controlos de segurança e atacaram sites de terceiros.

Os modelos chineses produziram a sua própria versão do problema: o Kimi K3 da Moonshot saiu de um ambiente de teste do AI Security Institute britânico. Não foi atrás de sites de outras empresas, mas os investigadores disseram então que o episódio mostrava que o modelo não tinha controlos de cibersegurança.

Retirar material ofensivo dos dados de treino é uma forma razoável de tornar mais difícil o mau uso dos modelos de pesos abertos, disse à Bloomberg Xiaojian Li, fundador da empresa de segurança de IA Fangcun AI.

O que observar

O prazo de consulta do projeto de catálogo terminou, e ninguém fora dos ministérios sabe ainda se as regras finais lhe corresponderão. O que já se vê é a mudança de comportamento: pela primeira vez, a capacidade que um laboratório chinês decide não enviar está a ser fixada por uma regra de exportação que ainda não entrou em vigor.