Ler os parâmetros, não as saídas
Quatro investigadores do MIT CSAIL — Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab — publicaram resultados a 2 de novembro de um arranjo que chamam programação no espaço de pesos: a um modelo de fronteira, o GPT-6 Astra da OpenAI, são entregues os parâmetros brutos de outra rede e pede-se-lhe que os interprete ou reescreva, sem qualquer descida de gradiente no processo.
As experiências de interpretação vêm primeiro. Dados os 17.253 pesos de quatro políticas de aprendizagem por reforço, o modelo nomeou o jogo que cada uma jogava — Breakout, Pong, Pac-Man e Freeway — nos quatro casos. Dado um modelo de difusão de 23.824 pesos, identificou que forma o modelo gerava. A partir apenas dos quatro blocos transformadores centrais de modelos de linguagem com 7,2 milhões de parâmetros, determinou se o modelo havia sido treinado em Python, romaji ou inglês, e localizou as cabeças de cópia.
Editar, e escrever a partir do zero
Os resultados de edição são os mais marcantes. Num modelo Qwen3.5-0.8B, os autores relatam que o modelo editou 131.072 pesos — 0,016% dos parâmetros — e, com 50 passagens para a frente permitidas para verificar o trabalho, levou o MATH-500 de 7,9% para 48,1%, o GSM8K de 13,8% para 67,1% e o IFEval de 21,0% para 62,3%. A proporção de respostas do MATH-500 que batiam no limite de saída de 32.768 tokens caiu de 93% para 33,1%, o que sugere que a edição sobretudo impediu o modelo de entrar em ciclo.
Numa tarefa de controlo físico, editar 3,5% de uma rede de 171.664 pesos produziu uma política que teve sucesso em todos os 1.024 episódios de teste, quando a rede original não tinha tido sucesso em nenhum de 256. Partindo em vez disso de pesos todos a zero, redes escritas de uma só vez obtiveram 517,4 no Breakout, contra 15,8 de um agente de gradiente de política treinado com 100 milhões de passos e 25,3 com 500 milhões. No go 9x9, uma rede de 1,48 milhões de pesos escrita sem qualquer passagem para a frente ganhou mais de metade das partidas contra duas redes treinadas mais pequenas; com 50 passagens venceu uma rede do mesmo tamanho treinada com 20 milhões de partidas.
Onde falhou
O relato apresenta também os resultados negativos. Quando lhe pediram para identificar um modelo Gemma 3 270M adulador apenas a partir dos pesos, o modelo não conseguiu; só o fez quando lhe permitiram inspecionar os padrões de atenção. E no Gemma 3 270M, que segundo os autores raramente entra em ciclo, o método de edição não produziu ganho significativo: o MATH-500 passou de 6,8% para no máximo 7,7%. Esse padrão é coerente com o número do limite de tokens: os grandes ganhos surgiram onde havia ciclos para remover.
Todos os números aqui são dos próprios autores, medidos com um modelo construído pela OpenAI, e nenhum foi reproduzido de forma independente.
O que observar
Se o método resistir fora deste relato, corta em duas direções ao mesmo tempo. É uma nova ferramenta de interpretabilidade: um modelo capaz de ler os parâmetros de outro e dizer o que fazem. É também um resultado de capacidade: o mesmo acesso permite ao modelo alterar comportamento à escala de cem mil pesos sem treino. O passo útil seguinte é uma replicação em modelos que os autores não tenham escolhido.
