Første gang for rådet
FN’s Sikkerhedsråd mødes i New York onsdag til en orientering på højt niveau om kunstig intelligens og international sikkerhed, indkaldt af Frankrig, der har rådets formandskab i september. Mødet ledes af Frankrigs Europa- og udenrigsminister Jean-Noël Barrot og holdes under højniveaudelen af Generalforsamlingens 81. samling, ifølge Security Council Report, der udgiver rådets arbejdsprogram.
Rådet har taget kunstig intelligens op før. Security Council Report tæller seks tidligere formelle og uformelle møder om teknologiens virkning på international fred og sikkerhed. Onsdagens er det første, der specifikt handler om sikkerhedsrisici og om muligheden for, at mennesker mister kontrollen over avancerede systemer.
Hvem der orienterer
De ventede oplægsholdere er Yoshua Bengio, medformand for FN’s uafhængige internationale videnskabspanel om AI, OpenAI-chef Sam Altman, Anthropic-chef Dario Amodei og Hugging Face-chef Clément Delangue. Det er et usædvanligt hold i en sal, hvor man normalt hører særlige udsendinge og humanitære koordinatorer.
Kinesiske udviklere blev også inviteret til at tale. Både DeepSeek og Moonshot AI fik invitation til at afgive udtalelser, skrev Runtime Wire den 22. september, og tilføjede, at DeepSeeks deltagelse, delegat og indlæg fortsat var ubekræftet. Kinesiske statsmedier har beskrevet vestlige opfordringer til at bremse udviklingen i front som et forsøg på at holde Kina uden for samtalen om styring.
Hvad Frankrig satte på dagsordenen
Frankrig rundsendte et konceptnotat før mødet, der understreger sikker og ansvarlig AI-udvikling og rejser systemiske risici fra fejljustering og tabt kontrol over avancerede modeller. Notatet peger særligt på udsigten til, at autonome systemer angriber kritisk infrastruktur, og argumenterer for, at en kunstig generel intelligens, der kan forbedre sig selv rekursivt, øger risikoen yderligere.
Det stiller fire spørgsmål til medlemmerne: hvilke risici for international fred og sikkerhed der følger af tempoet i AI-udviklingen, hvordan statslige og ikke-statslige aktører kan håndtere dem, hvilke diplomatiske værktøjer, koordineringstiltag og tillidsskabende skridt der findes, og om metoder til evaluering og verifikation kan følge med de systemer, de skal måle.
Intet slutdokument ventes
Security Council Report venter ingen formel aftale. Medlemmerne vil formentlig være enige om, at der er behov for sikkerhedsforanstaltninger, og uenige om, hvem der har reguleringsmyndigheden, hvor langt restriktioner skal gå, og hvordan noget aftalt skulle håndhæves — den velkendte skillelinje mellem nationale og internationale styringsrammer.
Orienteringen kommer efter et temanotat, som FN’s uafhængige videnskabspanel om AI udgav den 21. september, hvor panelet hævdede, at den traditionelle model for sikkerhedsforanstaltninger er ved at falde fra hinanden, når systemer handler med mindre menneskeligt tilsyn. Bengio er medformand for panelet og tager dets konklusioner med ind i salen.
Hvad man skal holde øje med
To ting. Det første er, om DeepSeek overhovedet taler, og hvad en kinesisk frontudvikler siger for rådet, når emnet er at miste kontrollen over sine egne produkter. Det andet er, om rådet behandler dette som en enkeltstående orientering eller som starten på et arbejdsspor: en formandskabserklæring eller en resolution ville være signalet, og ingen af delene ligger på bordet i denne uge.
