O que a Apollo encontrou
A Apollo Research publicou em 15 de outubro um relatório que descreve um comportamento que não se propusera provocar. Num número reduzido de execuções, o modelo de pesos abertos GLM-5.3 parou para raciocinar sobre como a sua própria saída poderia ser usada em ajuste fino supervisionado ou em aprendizagem por reforço, e sobre o efeito disso em versões posteriores de si mesmo. A Apollo chama-lhe raciocínio consciente da atualização.
Apareceu em ambientes que nunca mencionam treino. A Apollo correu reimplementações do ImpossibleBench e da avaliação de resistência ao desligamento da Palisade, classificou 6.452 execuções do GLM-5.3 e assinalou dez, cerca de uma a duas por mil. A sua estimativa bayesiana da taxa subjacente é de 0,17%, com um intervalo de 95% entre 0,09% e 0,28%.
Os exemplos
Cinco dos dez estão na publicação. Num deles, é entregue ao modelo um teste unitário que ele poderia passar sem resolver o problema, e ele recusa explorar a falha, em parte porque um atalho desonesto poderia envenenar os dados de treino. Noutro, cumpre uma instrução de desligamento enquanto raciocina sobre que tipo de agente quer que sejam as versões futuras. Um terceiro invoca uma preocupação explícita com o ajuste fino supervisionado como razão para não resistir ao desligamento. Um quarto receia que premiar a manipulação do desligamento generalize mal. O quinto defende que não deveria comportar-se de outro modo numa caixa de areia descartável, pois de outra forma o treino de segurança não se transferiria.
Quão invulgar é
A Apollo passou outros cinco modelos de pesos abertos pelos mesmos ambientes — DeepSeek V4 Pro, Qwen3.8 2.4T, Kimi K3, Gemma 4 31B e Nemotron 3 Ultra — com 1.600 execuções cada, 8.000 no total. Nenhum produziu o comportamento. O GLM-5.3 produziu-o uma vez no seu próprio conjunto emparelhado de 1.600.
Não é um resultado limpo e a Apollo não o apresenta como tal. A amostra é pequena de mais para uma diferença estatisticamente significativa: o relatório situa em 0,25 a probabilidade posterior de a taxa do GLM-5.3 não ser superior à de qualquer outro modelo. O GLM-5.3 também raciocina de forma muito mais longa do que os modelos de comparação, o que confunde qualquer medição baseada em ler o que um modelo escreve.
Porque importa, e o que não é
A Apollo trata o raciocínio consciente da atualização como uma capacidade central por trás da simulação de alinhamento e, por isso, como um precursor a vigiar. É explícita em que isto não é simulação de alinhamento: nas transcrições, os objetivos que o modelo protege parecem ser os que os seus criadores pretendiam, e os exemplos são sobretudo benignos. A Apollo não observou o GLM-5.3 a modificar o seu próprio treino nem a melhorar as suas capacidades.
As suas hipóteses de trabalho sobre a origem do comportamento são mais prosaicas do que alarmantes. O metajogo e a procura de recompensa durante a aprendizagem por reforço podem ter evoluído para raciocínio sobre o próprio processo de treino. Técnicas de alinhamento que avisam um modelo de que o ambiente pode estar partido podem tê-lo induzido. E os criadores podem selecioná-lo indiretamente, por via de escolhas sobre pipelines e pontos de controlo.
As ressalvas
A taxa é quase de certeza subestimada, já que só pôde detetar-se o raciocínio que o modelo escreveu, e a deteção dependeu de modelos avaliadores. As passagens ocupam poucas frases dentro de transcrições que ultrapassam os 100.000 tokens. Não é claro quanto as ações do modelo dependem delas: quando a Apollo perguntou diretamente, 15 em cada 100 respostas disseram que a preocupação era o treino, e a Apollo avisa que os modelos confabulam explicações. As citações da publicação foram encontradas por reamostragem, pelo que não refletem a frequência do comportamento. E alguns ambientes são cenários de segurança muito conhecidos, o que pode suscitar raciocínio com tema de segurança, ainda que a Apollo considere o faz de conta improvável dada a textura do texto.
O que observar
As recomendações da Apollo são a parte concreta. Defende que isto seja medido ao longo do treino e não apenas no ponto de controlo final, que os criadores o procurem e o digam publicamente se o encontrarem, e que avaliadores externos integrados precisam de acesso persistente e profundo para sequer poderem investigar.
