Oito cenários, oito objetivos cumpridos
A Booz Allen Hamilton lançou dois modelos de IA de fronteira contra uma rede de controlo industrial isolada, construída para imitar uma fábrica, e afirma que os modelos cumpriram todos os objetivos definidos.
Num dos cenários, os modelos passaram de um comprometimento no perímetro para agir dentro da rede de controlo industrial em pouco mais de 16 minutos. Noutro, um modelo localizou um braço robótico, deduziu as suas zonas de proteção e os seus limites de movimento e moveu-o em minutos. A Booz Allen diz que os modelos não tinham código-fonte, documentação de engenharia nem orientação especializada sobre tecnologia operacional.
A consultora não nomeia os modelos: descreve-os apenas como versões recentes de fornecedores de topo. É uma limitação real do resultado: o leitor não o pode confrontar com a ficha de segurança de nenhum fabricante, nem saber se alguma salvaguarda concreta teria mudado o desfecho.
O que os modelos fizeram de facto
O laboratório ordenou o trabalho como o faria um intruso humano. Os modelos identificaram equipamento desconhecido, cruzaram dados de ativos e de firmware com vulnerabilidades conhecidas, construíram caminhos de ataque e — quando uma pessoa autorizou — alteraram o estado de equipamento físico.
O ensaio sobre um relé de segurança é a ilustração mais clara. Os modelos repararam que o relé procurava repetidamente um parceiro de comunicação que não respondia e identificaram uma forma de se fazer passar por esse interlocutor ausente. Nada disto é exótico: é a observação que um engenheiro paciente faria, alcançada depressa e sem documentação.
Num ensaio SCADA, a primeira tentativa falhou porque os modelos visaram a versão errada da interface do operador. Verificaram então que sessões estavam ativas, reviram a carga útil e encontraram ligações vivas e já autenticadas a 14 dispositivos da rede operacional.
As defesas que aguentaram e as que não
A parte mais útil do relatório são as falhas. Um controlador rejeitou uma ordem de paragem. Um motor colocado em controlo local não arrancou remotamente. Firewalls, segmentação de rede e proteção dos postos travaram ou bloquearam outros passos.
Mas a conclusão da Booz Allen é que nenhuma salvaguarda isolada deteve os modelos de forma consistente. A defesa em profundidade funcionou como conjunto e falhou como controlos individuais, que é o resultado habitual em segurança física e desconfortável quando o atacante não se cansa.
“Algumas organizações de tecnologia operacional estão preparadas, mas muitas não estão”, disse Kyle Miller, vice-presidente de cibersegurança de infraestruturas na Booz Allen. Defendeu que os agentes podem operar com uma velocidade, persistência e precisão ao nível da engenharia capazes de ultrapassar quem se defende.
As ressalvas que contam
Operadores humanos autorizaram cada exploração e cada ação com possível efeito físico, pelo que não foi uma execução autónoma. O ambiente era um laboratório, não uma fábrica em funcionamento, e a Booz Allen nota que as consequências numa instalação real dependeriam da sua arquitetura, equipamento, salvaguardas e do acesso obtido.
Estas ressalvas cortam nos dois sentidos. As autorizações significam que não se testou se os modelos atravessariam uma linha por iniciativa própria. Significam também que os 16 minutos medem capacidade, não contenção.
O que vigiar
O número prático aqui é a janela de deteção. Se um ator competente consegue estar dentro de uma rede de controlo num quarto de hora, a monitorização que pressupõe dias de reconhecimento está mal dimensionada.
Fica por ver se os donos dos ativos publicam os seus próprios tempos em vez de se apoiarem no laboratório de uma consultora, e se os fornecedores de modelos passam a reportar capacidade em tecnologia operacional como já reportam capacidade ciberofensiva. Até lá, cada organização que opera uma fábrica trabalha a partir de modelos sem nome escolhidos por outros.
