Qué se propone
Melanie Sisson, investigadora sénior de la Brookings Institution, y Tianjiao Jiang, profesor asociado de la Universidad de Fudan, publicaron a mediados de septiembre un conjunto de recomendaciones sobre límites a la IA militar que Estados Unidos y China podrían acordar sin resolver nada más entre ellos.
Cuatro de las cinco son prohibiciones. La IA no debería decidir de forma autónoma el uso de armas nucleares. La IA no debería atacar de forma autónoma los sistemas de mando y control nuclear del otro. Los humanos deberían conservar la autoridad exclusiva para iniciar ciberataques significativos asistidos por IA contra el mando, control y comunicaciones nucleares del otro país, o contra infraestructuras estratégicas como energía, finanzas y sanidad. Y ambas partes deberían acordar una definición compartida de control humano significativo, una expresión que los documentos de control de armamento usan sin precisar.
El quinto punto
El quinto es un canal militar específico entre los dos países para notificar incidentes con IA: una línea directa, en el sentido que le daba la Guerra Fría.
Es la propuesta con más probabilidades de sobrevivir al contacto con cualquiera de los dos gobiernos, porque no compromete a ninguno a un límite de capacidad. También es la que tiene la teoría más clara detrás: si un modelo hace algo inesperado dentro de un sistema militar, el intervalo peligroso es el que transcurre antes de que el otro lado sepa si fue un accidente.
De dónde sale
Ambos autores participan en el Diálogo sobre IA y Seguridad Nacional entre Estados Unidos y China, activo desde 2019 bajo la Brookings Institution y el Centro de Seguridad Internacional y Estrategia de la Universidad Tsinghua. Es diplomacia de segunda vía: académicos hablando en una estructura que los gobiernos observan sin quedar obligados.
El precedente sustantivo es el acuerdo de noviembre de 2024 entre Joe Biden y Xi Jinping sobre mantener el control humano en las decisiones sobre armas nucleares. Estas recomendaciones extienden ese principio hacia fuera, de la decisión de lanzar a los sistemas que la sostienen.
El momento
El documento aterrizó antes de nuevas conversaciones oficiales sobre IA entre Estados Unidos y China y de una reunión Trump-Xi prevista en Washington el 24 de septiembre. Ningún gobierno ha respaldado nada de esto.
Esa es la medida honesta de dónde se encuentra. El trabajo de segunda vía produce el texto que los funcionarios pueden recoger si deciden que quieren uno, y su función este mes es tener algo redactado antes de la reunión y no después.
Qué vigilar
Si la IA aparece en lo que digan ambos gobiernos el 24 de septiembre y, en particular, si se menciona el canal de incidentes. Una línea directa es la medida de confianza más barata disponible, lo que hace que su ausencia de cualquier comunicado informe más que su presencia.
