At læse parametrene, ikke outputtet
Fire forskere ved MIT CSAIL — Rikiya Takehi, Jayden Teoh, Alex Zhang og Omar Khattab — offentliggjorde resultater den 2. november fra et opsæt, de kalder programmering i vægtrum: en frontmodel, OpenAIs GPT-6 Astra, får et andet netværks rå parametre og bliver bedt om at fortolke eller omskrive dem, uden nogen gradientnedstigning i kæden.
Fortolkningsforsøgene kommer først. Givet de 17.253 vægte i fire forstærkningslærte politikker navngav modellen det spil, hver af dem spillede — Breakout, Pong, Pac-Man og Freeway — i alle fire tilfælde. Givet en diffusionsmodel med 23.824 vægte identificerede den, hvilken form modellen genererede. Ud fra blot de fire midterste transformerblokke i sprogmodeller med 7,2 millioner parametre afgjorde den, om modellen var trænet på Python, romaji eller engelsk, og fandt kopieringshovederne.
At redigere, og at skrive fra nul
Redigeringsresultaterne er de skarpeste. På en Qwen3.5-0.8B-model oplyser forfatterne, at modellen redigerede 131.072 vægte — 0,016 procent af parametrene — og med 50 tilladte fremadpasseringer til at kontrollere arbejdet flyttede MATH-500 fra 7,9 til 48,1 procent, GSM8K fra 13,8 til 67,1 procent og IFEval fra 21,0 til 62,3 procent. Andelen af MATH-500-svar, der ramte outputgrænsen på 32.768 tokens, faldt fra 93 til 33,1 procent, hvilket antyder, at redigeringen først og fremmest stoppede modellen fra at køre i ring.
I en fysikstyringsopgave gav redigering af 3,5 procent af et netværk med 171.664 vægte en politik, der lykkedes i alle 1.024 testepisoder, hvor det oprindelige netværk ikke var lykkedes i nogen af 256. Med udgangspunkt i vægte sat til nul nåede netværk skrevet i én omgang 517,4 i Breakout mod 15,8 for en politikgradientagent trænet på 100 millioner skridt og 25,3 ved 500 millioner. I go på 9x9 vandt et netværk med 1,48 millioner vægte, skrevet uden nogen fremadpassering, mere end halvdelen af partierne mod to mindre trænede netværk; med 50 fremadpasseringer slog det et lige så stort netværk trænet på 20 millioner partier.
Hvor det mislykkedes
Rapporten gennemgår også de negative resultater. Bedt om at udpege en indsmigrende Gemma 3 270M-model ud fra vægtene alene kunne modellen det ikke; den lykkedes først, da den fik lov at inspicere opmærksomhedsmønstrene. Og på Gemma 3 270M, som ifølge forfatterne sjældent kører i ring, gav redigeringsmetoden ingen meningsfuld gevinst — MATH-500 gik fra 6,8 til højst 7,7 procent. Mønstret passer med tokengrænsetallet: de store gevinster kom, hvor der var ringe at fjerne.
Alle tal her er forfatternes egne, målt med en model bygget af OpenAI, og ingen er gengivet uafhængigt.
Hvad man skal følge
Holder metoden uden for denne rapport, skærer den i to retninger på én gang. Det er et nyt fortolkelighedsværktøj — en model, der kan læse en anden models parametre og sige, hvad de gør. Det er også et kapacitetsresultat: samme adgang lader modellen ændre adfærd i størrelsesordenen hundrede tusind vægte uden træning. Det nyttige næste skridt er en replikation på modeller, forfatterne ikke selv har valgt.
