Første gang for rådet
FNs sikkerhetsråd møtes i New York onsdag til en orientering på høyt nivå om kunstig intelligens og internasjonal sikkerhet, innkalt av Frankrike, som har rådsformannskapet i september. Møtet ledes av Frankrikes Europa- og utenriksminister Jean-Noël Barrot og holdes under høynivådelen av generalforsamlingens 81. sesjon, ifølge Security Council Report, som publiserer rådets arbeidsprogram.
Rådet har tatt opp kunstig intelligens før. Security Council Report teller seks tidligere formelle og uformelle møter om teknologiens virkning på internasjonal fred og sikkerhet. Onsdagens er det første som spesifikt handler om sikkerhetsrisiko og om muligheten for at mennesker mister kontrollen over avanserte systemer.
Hvem som orienterer
De ventede innlederne er Yoshua Bengio, medleder for FNs uavhengige internasjonale vitenskapspanel om KI, OpenAI-sjef Sam Altman, Anthropic-sjef Dario Amodei og Hugging Face-sjef Clément Delangue. Det er en uvanlig liste for en sal der de som høres vanligvis er spesialutsendinger og humanitære koordinatorer.
Kinesiske utviklere ble også invitert til å tale. Både DeepSeek og Moonshot AI fikk invitasjon til å avgi uttalelser, meldte Runtime Wire 22. september, og la til at DeepSeeks deltakelse, delegat og innlegg fortsatt var ubekreftet. Kinesiske statlige medier har beskrevet vestlige oppfordringer om å bremse utviklingen i front som et forsøk på å holde Kina utenfor samtalen om styring.
Hva Frankrike satte på dagsordenen
Frankrike sendte ut et konseptnotat før møtet som understreker trygg og ansvarlig KI-utvikling og tar opp systemrisiko fra feilretting og tapt kontroll over avanserte modeller. Notatet peker særlig på muligheten for at autonome systemer angriper kritisk infrastruktur, og hevder at en kunstig generell intelligens som kan forbedre seg selv rekursivt, øker risikoen ytterligere.
Det stiller fire spørsmål til medlemmene: hvilke risikoer for internasjonal fred og sikkerhet som følger av tempoet i KI-utviklingen, hvordan statlige og ikke-statlige aktører kan håndtere dem, hvilke diplomatiske verktøy, samordningstiltak og tillitsskapende skritt som finnes, og om metoder for evaluering og verifikasjon kan holde tritt med systemene de skal måle.
Ingen sluttdokument ventet
Security Council Report venter ingen formell enighet. Medlemmene vil trolig være enige om at det trengs sikkerhetstiltak, men uenige om hvem som har reguleringsmyndighet, hvor langt restriksjoner skal gå og hvordan noe avtalt skulle håndheves — den vanlige skillelinjen mellom nasjonale og internasjonale styringsrammer.
Orienteringen kommer etter et temanotat som FNs uavhengige vitenskapspanel om KI publiserte 21. september, der panelet hevdet at den tradisjonelle modellen for sikkerhetstiltak er i ferd med å rakne når systemer handler med mindre menneskelig tilsyn. Bengio er medleder for panelet og tar konklusjonene med inn i salen.
Hva man bør følge med på
To ting. Det første er om DeepSeek i det hele tatt taler, og hva en kinesisk frontutvikler sier for rådet når temaet er å miste kontrollen over sine egne produkter. Det andre er om rådet behandler dette som en enkeltstående orientering eller som starten på et arbeidsspor: en formannskapserklæring eller en resolusjon ville vært signalet, og ingen av delene ligger på bordet denne uken.
