Påståendet
Nick Cammarata, forskare på tolkningsföretaget Goodfire och tidigare på OpenAI, har publicerat en lång essä med titeln Neural Networks Are Already Clean (“Neurala nätverk är redan rena”). Argumentet är att det mesta av det fältet kallar polysemanti — en enskild neuron som tycks sköta flera orelaterade uppgifter — kommer från vanliga, åtgärdbara problem med verktyg och mått, plus ett mönster han kallar rekursiv generalisering, snarare än från superposition.
Superposition är tanken att ett nätverk packar in fler egenskaper än det har dimensioner och lagrar dem i överlappande riktningar, vilket skulle tvinga tolkningsforskningen att reda ut ett nätverk innan den kan studera det. Cammaratas hållning är rakt på sak: “Jag anser nu att superposition hör långt ned på listan”, skriver han, och om det kanoniska exemplet: “superposition var fel förklaring för InceptionV1”.
Beläggen han lägger fram
Den centrala omtolkningen gäller en neuron i InceptionV1, en bildmodell från 2020, som tycktes svara både på katter och på bilar. Cammarata menar att den svarar på en V-form, som finns både i kattansikten och i bilfronter — egenskapen var sammanhängande och egenskapsvisualiseringen var vilseledande.
Runt det ligger flera mätningar. I preliminära granskningar av Qwen3-32B anger han att omkring 90 procent av neuronpolerna har en huvuduppgift, omkring 7 procent har två besläktade uppgifter och 2–4 procent ännu inte är förstådda, samtidigt som han påpekar att siffrorna beror starkt på trösklarna. För InceptionV1:s sista lager spårar han uppskattad tolkbarhet från omkring 5 procent med 2017 års verktyg, till omkring 50 procent med bättre verktyg, till omkring 70 procent med modern regularisering, och omkring 99 procent i ett lika stort ConvNeXt. Att pressa ihop ett lager från 480 neuroner till 10 gjorde neuronerna grövre, skriver han, inte superponerade.
Essän är tydlig med sin egen status. Den kallar sig en arbetshypotes, stämplar det sista steget i sitt fyrstegsargument som “högst spekulativt”, säger att renhetssiffran för starka aktiveringar vilar på relativt små urval, och skjuter upp frågan om nätverk rymmer fler egenskaper än dimensioner till en kommande artikel.
Fyra forskare, fyra invändningar
MIT Technology Review, som angav texten till 26 000 ord och citerade dess inledning — “Jag tror att jag har goda nyheter om de neurala nätverkens natur” — samlade invändningarna.
Chris Potts vid Stanford University kallade det föga mer än en gissning: “Såvitt jag kan se gör ingenting i det här blogginlägget problemen lättare.” Jacob Hilton vid Alignment Research Center sade att forskare förstår mindre än 0,01 procent av hur en språkmodell i toppskiktet fungerar invändigt, att inlägget ger allmänheten en orealistisk bild, och att full förståelse kräver en förklaring av hur neuroner bildar kretsar — inte bara av vad enskilda neuroner gör.
Oren Etzioni, tidigare teknisk chef vid Allen Institute for AI, påpekade att det ursprungliga arbetet om InceptionV1 hade förkastat en beskrivning på neuronnivå som Geoffrey Hinton med flera lade fram 1986, och sade att Cammaratas nya hållning “för oss varvet runt” — “Det nya 2026 är att han nu accepterar den.” Neel Nanda vid Google DeepMind kallade arbetet intressant men inte en betydande uppdatering för tolkningsforskningen som helhet.
Vad som faktiskt är ouppklarat
Stridsfrågorna är avgränsade och kontrollerbara. Om fynd från en liten bildmodell från 2020 går att generalisera till dagens språkmodeller; om det räcker som stringens att granska många exempel utan formell utvärdering; och hur mycket renhet på neuronnivå är värd när kretsarna förblir det öppna problemet.
Cammarata har själv gett efter om inramningen. “Det är inte oändligt goda nyheter; allt är inte löst”, sade han till MIT Technology Review. Den kommande artikeln om egenskaper och dimensioner, och Goodfires ännu opublicerade tekniska resultat för språkmodeller, är det som skulle göra en arbetshypotes till ett resultat.
