Pruebas sobre el código, no sobre el diseño
Google DeepMind anunció el 10 de noviembre que sus agentes de inteligencia artificial habían demostrado matemáticamente propiedades de seguridad clave del código que implementa el protocolo Signal, el cifrado que está detrás de Signal y de Google Messages. La empresa lo describió como la primera vez que se usa IA para verificar formalmente un protocolo criptográfico ampliamente desplegado a esta profundidad, y la primera vez que la implementación de un protocolo así se verifica formalmente por cualquier método, con IA o sin ella.
La distinción importa. Los criptógrafos llevan décadas analizando protocolos de forma matemática, pero DeepMind señaló que la mayor parte de ese trabajo se detiene en el nivel del diseño: una prueba sobre la idea, no sobre el software que la gente ejecuta. En la publicación, firmada por Pushmeet Kohli y Swarat Chaudhuri, la compañía dice que sus agentes fueron más allá y probaron que el código compilado cumple las propiedades de seguridad que sus expertos especificaron, hasta lo que se ejecuta en los dispositivos.

Entre esas propiedades, DeepMind menciona mantener los mensajes protegidos antes y después de que un dispositivo quede comprometido de forma temporal. Las vulnerabilidades reales, afirma, suelen esconderse en el hueco que separa un diseño de su implementación, y eso es justamente lo que hace difícil cerrarlo.
Cómo se repartió el trabajo
El sistema se llama AlphaProof Code, y DeepMind lo describe como un marco agéntico con varios modelos de lenguaje que divide la verificación formal como lo haría un equipo de investigación. Expertos humanos trabajaron con una combinación de modelos para convertir los objetivos de seguridad de Signal en especificaciones matemáticas formales, y revisaron cada una de ellas. Después, agentes impulsados por Gemini Carbon hicieron las demostraciones y generaron más de seis millones de líneas de Lean, el lenguaje en el que las pruebas se comprueban por máquina.
Luego los agentes auditaron su propio resultado y señalaron las partes que requerían juicio humano: alrededor del uno por ciento del código, según DeepMind. Lean comprueba el resto automáticamente. La empresa cifró el tiempo total en cuatro semanas, frente a los años que históricamente dedican los equipos expertos.
Una prueba con fallos conocidos
Para comprobar que el sistema distingue el código correcto del defectuoso, los investigadores de DeepMind reintrodujeron dos fallos reales ya corregidos en una copia aislada del código de Signal. En ambos casos, afirma, el sistema produjo una demostración verificada por máquina de que la versión con el fallo era insegura.
El director de tecnología de Signal, Ehren Kret, aparece citado en la publicación diciendo que usar agentes de IA para traducir código vivo en teoremas válidos de Lean es un avance importante, y que tener la implementación del protocolo rigurosamente verificada da a la organización más confianza en sus garantías de privacidad.

Lo que no queda resuelto
Todas las cifras son de DeepMind, publicadas en un blog corporativo junto a un artículo técnico, y la afirmación de ser los primeros no ha sido arbitrada de forma independiente. Una demostración, además, solo cubre lo que dice la especificación, y las especificaciones las escriben personas: la propia publicación aclara que expertos humanos definieron y revisaron cada una.
DeepMind dice que está liberando como código abierto sus artefactos de verificación formal, que es la parte que investigadores externos pueden comprobar. La compañía presentó el resultado como base para verificar otros sistemas, y nombró el firmware de dispositivos médicos y el software de la red eléctrica, junto a CodeMender, el agente de reparación automática de código que presentó el año pasado. Si la cifra de cuatro semanas se sostiene en un código que nadie ha estudiado durante décadas es lo próximo que habrá que mirar.