La tesis
Nick Cammarata, investigador de la empresa de interpretabilidad Goodfire que antes trabajó en OpenAI, ha publicado un extenso ensayo titulado Neural Networks Are Already Clean (“Las redes neuronales ya son limpias”). Su argumento es que casi todo lo que el campo llama polisemanticidad —una sola neurona que parece hacer varias tareas sin relación— procede de problemas corrientes y corregibles de herramientas y métricas, más un patrón que él llama generalización recursiva, y no de la superposición.
La superposición es la idea de que una red almacena más características que dimensiones tiene, guardándolas en direcciones solapadas, lo que obligaría a la interpretabilidad a desenredar una red antes de poder estudiarla. La posición de Cammarata es tajante: “Ahora creo que la superposición debería estar muy abajo en la lista”, escribe, y sobre el ejemplo canónico: “la superposición era la explicación equivocada para InceptionV1”.
Las pruebas que ofrece
La reinterpretación central se refiere a una neurona de InceptionV1, un modelo de imagen de 2020, que parecía responder tanto a gatos como a coches. Cammarata sostiene que responde a una forma en V, presente tanto en las caras de los gatos como en el frontal de los coches: la característica era coherente y la visualización de características inducía a error.
Alrededor de eso hay varias mediciones. En auditorías preliminares de Qwen3-32B informa de que alrededor del 90% de los polos de neurona tienen una tarea principal, un 7% tienen dos tareas relacionadas y entre el 2% y el 4% siguen sin entenderse, señalando que las cifras dependen mucho de los umbrales. Para la última capa de InceptionV1 traza una interpretabilidad estimada que va de cerca del 5% con herramientas de 2017, a cerca del 50% con mejores herramientas, a cerca del 70% con regularización moderna, y alrededor del 99% en un ConvNeXt del mismo tamaño. Comprimir una capa de 480 neuronas a 10 hizo que las neuronas fueran más gruesas, dice, no superpuestas.
El ensayo es explícito sobre su propio estatus. Se llama a sí mismo hipótesis de trabajo, califica el paso final de su argumento en cuatro pasos de “altamente especulativo”, dice que la cifra de limpieza para activaciones fuertes se apoya en muestras relativamente pequeñas, y aplaza a un artículo complementario la cuestión de si las redes guardan más características que dimensiones.
Cuatro investigadores, cuatro objeciones
MIT Technology Review, que cifró el texto en 26.000 palabras y citó su primera línea —“Creo que tengo buenas noticias sobre la naturaleza de las redes neuronales”—, recogió las réplicas.
Chris Potts, de la Universidad de Stanford, lo calificó de poco más que una corazonada: “Por lo que veo, nada en esta entrada de blog hace los problemas más fáciles”. Jacob Hilton, del Alignment Research Center, dijo que los investigadores entienden menos del 0,01% del funcionamiento interno de un modelo de lenguaje de primer nivel, que el texto da al público una imagen poco realista y que la comprensión plena exige explicar cómo las neuronas forman circuitos, no solo qué hace cada neurona.
Oren Etzioni, antiguo director técnico del Allen Institute for AI, señaló que el trabajo original sobre InceptionV1 había rechazado una descripción a nivel de neurona propuesta por Geoffrey Hinton y otros en 1986, y dijo que la nueva postura de Cammarata “nos devuelve al punto de partida”: “Lo nuevo en 2026 es que ahora la acepta”. Neel Nanda, de Google DeepMind, calificó el trabajo de interesante pero no de una actualización significativa para la interpretabilidad en su conjunto.
Qué queda realmente sin resolver
Los puntos en disputa son concretos y comprobables. Si los hallazgos de un pequeño modelo de visión de 2020 se generalizan a los modelos de lenguaje actuales; si examinar muchos ejemplos es suficientemente riguroso sin una evaluación formal; y cuánto aporta la limpieza a nivel de neurona cuando los circuitos siguen siendo el problema abierto.
El propio Cammarata ha cedido terreno en el encuadre. “No son noticias infinitamente buenas; no está todo resuelto”, dijo a MIT Technology Review. El artículo complementario sobre características y dimensiones, y los resultados técnicos aún no publicados de Goodfire sobre modelos de lenguaje, son lo que convertiría una hipótesis de trabajo en un resultado.
