Qué ocurrió
Un informe de inteligencia que circuló por el ejército estadounidense esta primavera afirmaba que un buque chino en Oriente Medio transportaba componentes de un programa de armas nucleares. El ejército se dispuso a interceptarlo. Había personal armado preparándose para abordarlo y aviones militares ya en el aire, informó CNN el viernes, citando a cuatro fuentes conocedoras del episodio.
Solo justo antes de la operación algunos responsables examinaron el informe con más detalle. Lo había elaborado un analista de un mando de operaciones especiales con ayuda de inteligencia artificial, y el chatbot que utilizó identificó mal lo que transportaba el barco. CNN no pudo establecer cuál era la carga real.
El informe era “completamente falso”, dijo una fuente a CNN. También “estuvo a punto de iniciar una guerra”, añadió la misma fuente. Un abordaje estadounidense de un buque chino conlleva un riesgo evidente de escalar hasta un enfrentamiento armado entre ambos países.
Cómo se generó el error
El analista consultó a un chatbot sobre información de inteligencia relativa al manifiesto del barco, procedente del Mando de Operaciones Especiales de Estados Unidos en el Pacífico, con sede en Hawái. El sistema fusionó material de fuentes abiertas con inteligencia de señales clasificada almacenada en sistemas gubernamentales y llegó a su conclusión sobre la carga.
Después el analista recurrió de nuevo a la IA para dar al hallazgo el formato de un producto de inteligencia estándar —el tipo de documento que los oficiales están entrenados para tomar en serio— y lo distribuyó.
CNN no pudo determinar si el chatbot era un producto comercial o una herramienta desarrollada por el gobierno. Un antiguo alto funcionario estadounidense familiarizado con estos sistemas resumió así la diferencia: “Las herramientas internas son en su mayoría copias de lo comercial con los labios pintados”.
El Mando de Operaciones Especiales en el Pacífico y el Pentágono no respondieron a la petición de comentarios de CNN.
Una aceleración deliberada
El episodio llega en plena campaña para introducir la IA en todos los rincones del trabajo de defensa e inteligencia estadounidense. En enero, el secretario de Defensa Pete Hegseth presentó una Estrategia de Aceleración de la Inteligencia Artificial. “Vamos a desatar la experimentación, eliminar barreras burocráticas, concentrar nuestras inversiones y demostrar el enfoque de ejecución necesario para liderar la IA militar”, dijo al anunciarla.
El memorando que la acompañaba describía el objetivo como “democratizar la experimentación y la transformación con IA en todo el Departamento, poniendo los modelos de IA líderes de Estados Unidos directamente en manos de nuestros tres millones de empleados civiles y militares, en todos los niveles de clasificación”.
Esa implantación es descentralizada. Distintas partes del departamento usan herramientas distintas bajo órdenes y estándares de seguridad distintos, dijeron varios responsables a CNN, y no existe un criterio único para verificar lo que esas herramientas producen. La fiabilidad varía mucho de un sistema a otro.
El riesgo que ya está aquí
Washington lleva semanas discutiendo si los modelos avanzados podrían escapar al control humano. Este episodio señala algo más concreto y más cercano: personas que toman decisiones graves apoyándose en textos que suenan autorizados y son falsos.
Una fuente conocedora de la política actual dijo a CNN que “la IA en la designación de objetivos está claramente en aumento y no hay ninguna guía real sobre cómo tener a un humano en el circuito evitará bajas civiles o fuego amigo”. Otra fuente afirmó que alucinaciones de este tipo no han sido un caso aislado en la comunidad de inteligencia desde que estas herramientas empezaron a extenderse.
Algunos funcionarios veteranos describieron un efecto secundario: las herramientas elevan el ritmo al que se espera que los analistas produzcan y difundan inteligencia acabada, y los analistas jóvenes confían en ellas con más facilidad. Como resumió una fuente a CNN: “La IA te permite llegar más rápido a una mala idea”.
Ni el Pentágono ni el Mando de Operaciones Especiales en el Pacífico han dicho si van a cambiar los estándares de verificación que el episodio dejó al descubierto.
