Auditar el nombre contra el código
Los sistemas de agentes construidos sobre modelos de lenguaje locales anuncian con frecuencia módulos de arquitectura cognitiva: un espacio de trabajo global, teoría de la mente, razonamiento causal, inferencia activa. Un artículo publicado en arXiv el 30 de octubre por Peter Chen, Ni Zhang, Ying Xu y Siyuan Zhang sostiene que el nombre del módulo se toma rutinariamente como prueba de que el mecanismo existe, y se propone comprobar si el cálculo nombrado se ejecuta de verdad.
El método es deliberadamente sobrio y transferible: una auditoría estática de cuatro preguntas, con evidencia de números de línea para cada respuesta, seguida del rastreo de la cadena de llamadas para ver adónde va un valor calculado. Los autores lo aplican a 25 mecanismos declarados en un sistema de agentes, preinscriben predicciones para 11 de esos módulos y ejecutan 12 intervenciones para ponerlas a prueba.
La cifra
En 18 de los 25 módulos —el 72%— el valor que el módulo calcula no llega a ninguna salida de producción. El código se ejecuta. Produce un resultado. Nada aguas abajo lo consume.
Los autores dan nombre a tres patrones nuevos para esto, que llaman cableado inerte: formas en que un módulo puede estar conectado al sistema lo bastante como para ejecutarse y lo bastante poco como para no tener efecto. De 61 criterios congelados antes de la auditoría, 53 se confirmaron, cinco se refutaron, dos quedaron parcialmente dirimidos y uno se declaró ambiguo.
Las reparaciones son la prueba
Un resultado nulo de este tipo invita a la objeción obvia: quizá la salida del módulo nunca estaba pensada para consumirse directamente y su influencia es indirecta. Los autores la responden con dos experimentos de reparación ejecutados como controles positivos: conectar la ruta muerta y ver si algo cambia.
Uno cambió, y de forma drástica. La tasa de éxito en tareas de un planificador pasó de 0,028 a 1,000 una vez que la salida de su módulo se encaminó realmente hacia la decisión que debía informar. En la segunda reparación, el error de un controlador de estado cayó un 52%. Si los módulos hubieran contribuido de forma indirecta, conectarlos bien no habría producido un cambio de ese tamaño.
Los autores replican además el protocolo en un segundo sistema independiente —auditando su núcleo phi de teoría de la información integrada frente a los criterios de falsación que ese sistema había fijado previamente— y recogen una auditoría de código congelado de 52 comprobaciones sobre 12 archivos de dos tiempos de ejecución híbridos y un sustrato público de autorización.
Qué implica al leer artículos sobre agentes
La conclusión que extraen los autores es estrecha y merece decirse con claridad: el nombre de un módulo y el cálculo de un módulo son dos afirmaciones distintas, y deberían auditarse por separado. Una ficha de sistema, el README de un repositorio o un diagrama de arquitectura que incluya “teoría de la mente” está declarando la primera. Si se sostiene la segunda es una cuestión de cadenas de llamadas, y la aportación del artículo es una manera barata de preguntarlo.
La auditoría cubre dos sistemas, ambos construidos sobre modelos locales, así que no dice nada directo sobre los agentes comerciales de frontera cuyo código no está disponible. Eso también es parte del asunto: hoy no se les puede hacer la misma pregunta.
