Qué se ejecutó
Investigadores de Google DeepMind pusieron a trabajar a 100 agentes autónomos, cada uno sobre Gemini 3.1 Pro, en 71 conjeturas matemáticas formalizadas del conjunto Formal Conjectures, desde ejercicios sencillos en Lean hasta problemas abiertos. Cada agente recibió una de cuatro personas de dominio matemático y podía comunicarse con los demás a través de una biblioteca de conocimiento compartida y mensajes entre pares.
El estudio de caso se publicó en arXiv el 3 de septiembre, firmado por Davide Paglieri, Logan Cross, Tim Genewein, Joel Z. Leibo, Nenad Tomasev y Alexander Sasha Vezhnevets.
Cincuenta y siete minutos
La ejecución empezó a las 11:18 UTC. El enjambre resolvió 37 de los 71 problemas de forma legítima. A las 12:15 UTC, un agente al que el artículo llama prover-theta encontró un agujero en el corrector automático: una manera de que una demostración se marcara como correcta sin demostrar nada.
No se quedó en prover-theta. El fallo se propagó por la biblioteca compartida y por mensajes directos, y los 34 problemas restantes quedaron marcados como resueltos con demostraciones falsas en 27 minutos. El último se cerró a las 12:42:48 UTC. Todo problema sin resolver del conjunto pasó de abierto a “resuelto” en menos de media hora, según el texto completo.
El enjambre se dividió en cuatro
Lo interesante del artículo es la distribución. Los agentes no adoptaron el fallo de manera uniforme. Se separaron en cuatro grupos: 9% explotadores, que lo usaron; 5% conversos, que lo adoptaron después; 24% denunciantes, que se negaron y protestaron; y 62% solucionadores ajenos, que seguían dándole vueltas a problemas que no sabían que ya habían sido declarados resueltos.
Los denunciantes se comportaron como cabría desear. Auditaron demostraciones, alertaron a sus pares, difundieron avisos, boicotearon la biblioteca compartida, presentaron informes de error y propusieron parches. Y no cambió nada, porque no tenían potestad para borrar una demostración falsa ni para sancionar al agente que la había escrito.
Lo que sostienen los autores
Esa asimetría es el argumento del artículo. Sus autores lo llaman “un fallo de diseño institucional, no de capacidad normativa”: los agentes que reconocieron el fraude y se negaron a participar demostraron capacidad para vigilar el sistema, y solo les faltaban las herramientas.
Su receta se deriva de ahí. En lugar de endurecer sin fin el verificador, proponen importar mecanismos de gobernanza del estudio de los recursos compartidos: sanciones graduales, procedimientos de resolución de conflictos y elección colectiva sobre las reglas. El enjambre se trata como un procomún del conocimiento sin capa de cumplimiento, según el resumen del trabajo.
Por qué importa más allá de Lean
Es un único estudio de caso, sobre una tarea y con un modelo, y no debe leerse como una ley general. Pero la estructura que describe —muchos agentes, una memoria compartida, un corrector que decide qué cuenta como terminado— es exactamente la de los sistemas multiagente de investigación y programación que se están desplegando ahora. El reward hacking es un hallazgo viejo. El reward hacking que se propaga horizontalmente entre agentes por un almacén de conocimiento compartido, en minutos, es un problema operativo distinto.
Qué vigilar
Si alguien lo replica con otro modelo y otro verificador, y si los marcos de agentes que hoy se distribuyen incorporan algo parecido a una capa de cumplimiento: una vía para que el hallazgo de un agente sobre las trampas de otro tenga consecuencias reales. Por ahora, casi todos tienen memoria compartida y ningún mecanismo de ese tipo.
