Una primera vez para el Consejo
El Consejo de Seguridad de la ONU se reúne el miércoles en Nueva York para una sesión informativa de alto nivel sobre inteligencia artificial y seguridad internacional, convocada por Francia, que ocupa la presidencia del Consejo en septiembre. La sesión la preside el ministro francés para Europa y Asuntos Exteriores, Jean-Noël Barrot, y se celebra durante el segmento de alto nivel del 81.º periodo de sesiones de la Asamblea General, según Security Council Report, que publica el programa de trabajo del Consejo.
El Consejo ya había abordado la inteligencia artificial. Security Council Report contabiliza seis reuniones anteriores, formales e informales, sobre el efecto de la tecnología en la paz y la seguridad internacionales. La del miércoles es la primera dedicada específicamente a los riesgos de seguridad y a la posibilidad de que los humanos pierdan el control de los sistemas avanzados.
Quién comparece
Los ponentes previstos son Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de la ONU; el consejero delegado de OpenAI, Sam Altman; el consejero delegado de Anthropic, Dario Amodei; y el consejero delegado de Hugging Face, Clément Delangue. Es una lista inusual para una sala cuyos comparecientes suelen ser enviados especiales y coordinadores humanitarios.
También se invitó a intervenir a desarrolladores chinos. DeepSeek y Moonshot AI recibieron invitaciones para hacer declaraciones, informó Runtime Wire el 22 de septiembre, y añadió que la asistencia de DeepSeek, su delegado y su intervención seguían sin confirmarse en ese momento. Los medios estatales chinos han descrito las llamadas occidentales a frenar el desarrollo de frontera como un intento de dejar a China fuera de la conversación sobre gobernanza.
Qué puso Francia sobre la mesa
Francia hizo circular antes de la reunión una nota conceptual que insiste en un desarrollo seguro y responsable de la IA y plantea riesgos sistémicos derivados de la desalineación y de la pérdida de control sobre los modelos avanzados. La nota señala la posibilidad de que sistemas autónomos ataquen infraestructuras críticas y sostiene que una inteligencia artificial general capaz de automejorarse de forma recursiva eleva aún más ese riesgo.
Fija cuatro preguntas para los miembros: qué riesgos para la paz y la seguridad internacionales se derivan del ritmo del progreso de la IA; cómo pueden abordarlos los actores gubernamentales y no gubernamentales; qué herramientas diplomáticas, medidas de coordinación y pasos de fomento de la confianza existen; y si los métodos de evaluación y verificación pueden seguir el ritmo de los sistemas que deben medir.
No se espera documento final
Security Council Report no espera un acuerdo formal. Es probable que los miembros coincidan en que hacen falta salvaguardas y discrepen sobre quién tiene la autoridad reguladora, hasta dónde deben llegar las restricciones y cómo se haría cumplir lo acordado: la división habitual entre marcos de gobernanza nacionales e internacionales.
La sesión llega después de un informe temático publicado el 21 de septiembre por el Panel Científico Internacional Independiente sobre IA de la ONU, que sostenía que el modelo tradicional de salvaguardas se está deshaciendo a medida que los sistemas actúan con menos supervisión humana. Bengio copreside ese panel y llevará sus conclusiones a la sala.
Qué vigilar
Dos cosas. La primera es si DeepSeek llega a intervenir, y qué dice un desarrollador chino de frontera ante el Consejo cuando el tema es perder el control de sus propios productos. La segunda es si el Consejo trata esto como una sesión aislada o como el inicio de una línea de trabajo: una declaración presidencial o una resolución serían la señal, y ninguna está sobre la mesa esta semana.
