Qué sostiene el documento
Un documento de trabajo publicado por el Programa de Cambridge sobre Ciencia y Política de la IA se pregunta qué ocurre si las empresas que construyen IA consiguen automatizar el trabajo de construirla. Su título es la propia pregunta: ¿Y si automatizar la I+D en IA desencadena una explosión de inteligencia?
Una explosión de inteligencia, según la define el texto, es “una aceleración drástica del progreso de la IA impulsada por la propia IA, que comprime en meses o menos avances que de otro modo llevarían años”. Los autores no afirman que vaya a ocurrir. Sostienen que las pruebas de que podría ocurrir ya son bastante sólidas como para que prepararse después fuese demasiado tarde, porque el progreso durante una explosión iría más rápido que la política normal.
Las firmas son lo que impide archivar esto como militancia. Veintidós autores, entre ellos el jefe científico de OpenAI, Jakub Pachocki, el cofundador de Anthropic Jack Clark, el jefe científico de Microsoft Eric Horvitz, Dawn Song, de Berkeley, y los premios Turing Geoffrey Hinton, Yoshua Bengio y Andrew Barto.
Las pruebas que citan
La mayor parte procede de los propios laboratorios. El texto cita a Anthropic, que informa de que la proporción de código aprobado escrito por sistemas de IA pasó de cifras de un solo dígito a más del 80% entre enero de 2025 y mayo de 2026, y de que la parte del trabajo de I+D completada de forma autónoma con solo supervisión humana de alto nivel pasó del 1% al 26% entre marzo y agosto de 2026.
Se cita a OpenAI diciendo que la asistencia de IA se usa “prácticamente en todas las partes de la empresa”, con agentes capaces de ejecutar código empleados en el entrenamiento, la evaluación y la protección de futuros modelos. Google informa de que la IA se usa en “casi todo el trabajo que implica escribir código o configuración, diseño técnico e ideación de investigación”.
El mecanismo que describe el documento es un bucle: los sistemas de IA amplían la plantilla efectiva de investigación, esa plantilla produce sistemas mejores y esos vuelven a ampliarla. Las fricciones son reales —límites de cómputo, entrenamientos que llevan tiempo, tareas que se resisten a la automatización— pero los autores sostienen que las mejoras de software realimentan casi de inmediato, mientras que las de hardware esperan a obras de años.
Qué piden a los responsables políticos
Tres cosas, por este orden. Obtener visibilidad sobre cuánta I+D en IA está automatizada dentro de las empresas de frontera. Desarrollar formas de marcar el ritmo y acotar una escalada. Preparar a la sociedad para los efectos.
Los detalles son inusualmente concretos para un texto con autores del sector. Informes estandarizados de indicadores de automatización de la I+D a gobiernos y auditores externos. Auditores acreditados u organismos públicos de evaluación que examinen los sistemas antes de su despliegue interno, o que se instalen dentro de ciertas empresas para auditar o supervisar su I+D, al modo de la Comisión Reguladora Nuclear y de la Oficina del Contralor de la Moneda. Límites a cuánto pueden crecer las capacidades en un periodo dado. Vigilancia de los centros de datos que ejecutan I+D automatizada, con opciones preparadas para pausar cargas concretas. Y la exigencia de que algunas evaluaciones se realicen en redes aisladas físicamente, para evitar fugas de pesos y contener sistemas que intenten escapar.
Los autores nombran además el abuso evidente: un mecanismo mal redactado podría permitir a un gobierno frenar la investigación en todas las empresas salvo en una favorecida.
Qué vigilar
Es un documento de trabajo, no una propuesta con patrocinador. Lo que hay que seguir es si los indicadores de información que esboza aparecen en algún instrumento vinculante —una norma nacional de reporte, una condición de licencia, una cláusula en la próxima ronda de aplicación en la UE— y si los laboratorios cuyos científicos lo firman están dispuestos a publicar esos indicadores antes de que se les obligue.
