Une première pour le Conseil
Le Conseil de sécurité de l’ONU se réunit mercredi à New York pour une réunion d’information de haut niveau sur l’intelligence artificielle et la sécurité internationale, convoquée par la France, qui préside le Conseil en septembre. La séance est présidée par le ministre français de l’Europe et des Affaires étrangères, Jean-Noël Barrot, et se tient pendant le segment de haut niveau de la 81e session de l’Assemblée générale, selon Security Council Report, qui publie le programme de travail du Conseil.
Le Conseil s’est déjà saisi de l’intelligence artificielle. Security Council Report recense six réunions antérieures, formelles et informelles, sur les effets de la technologie sur la paix et la sécurité internationales. Celle de mercredi est la première consacrée spécifiquement aux risques de sûreté et à la possibilité que les humains perdent le contrôle des systèmes avancés.
Qui intervient
Les intervenants attendus sont Yoshua Bengio, coprésident du Groupe scientifique international indépendant sur l’IA de l’ONU, le directeur général d’OpenAI Sam Altman, le directeur général d’Anthropic Dario Amodei et le directeur général de Hugging Face Clément Delangue. C’est une distribution inhabituelle pour une salle où l’on entend d’ordinaire des envoyés spéciaux et des coordinateurs humanitaires.
Des développeurs chinois ont également été invités à prendre la parole. DeepSeek et Moonshot AI ont tous deux reçu une invitation à faire une déclaration, a rapporté Runtime Wire le 22 septembre, en précisant que la présence de DeepSeek, son délégué et son intervention restaient à confirmer. Les médias d’État chinois ont décrit les appels occidentaux à ralentir le développement de pointe comme une tentative d’écarter la Chine du débat sur la gouvernance.
Ce que la France a mis à l’ordre du jour
La France a fait circuler avant la réunion une note de cadrage qui insiste sur un développement sûr et responsable de l’IA et soulève les risques systémiques liés au désalignement et à la perte de contrôle sur les modèles avancés. La note pointe la perspective de systèmes autonomes attaquant des infrastructures critiques et soutient qu’une intelligence artificielle générale capable de s’améliorer de façon récursive accroît encore ce risque.
Elle pose quatre questions aux membres : quels risques pour la paix et la sécurité internationales découlent du rythme des progrès de l’IA ; comment les acteurs gouvernementaux et non gouvernementaux peuvent y répondre ; quels outils diplomatiques, mesures de coordination et démarches de confiance existent ; et si les méthodes d’évaluation et de vérification peuvent suivre le rythme des systèmes qu’elles doivent mesurer.
Aucun document final attendu
Security Council Report n’attend pas d’accord formel. Les membres devraient convenir que des garde-fous sont nécessaires tout en divergeant sur l’autorité réglementaire, l’ampleur des restrictions et les moyens de faire appliquer ce qui serait convenu — la ligne de fracture habituelle entre cadres de gouvernance nationaux et internationaux.
La séance fait suite à une note thématique publiée le 21 septembre par le Groupe scientifique indépendant de l’ONU sur l’IA, qui affirmait que le modèle traditionnel de garde-fous se défait à mesure que les systèmes agissent avec moins de supervision humaine. Bengio copréside ce groupe et en portera les conclusions dans la salle.
Ce qu’il faut surveiller
Deux choses. D’abord, si DeepSeek prend effectivement la parole, et ce qu’un développeur chinois de pointe dit devant le Conseil lorsque le sujet est la perte de contrôle de ses propres produits. Ensuite, si le Conseil traite cette séance comme un cas isolé ou comme le début d’un chantier : une déclaration présidentielle ou une résolution en serait le signal, et aucune n’est sur la table cette semaine.
