Första gången för rådet
FN:s säkerhetsråd samlas i New York på onsdagen för en högnivåföredragning om artificiell intelligens och internationell säkerhet, sammankallad av Frankrike som är rådets ordförande i september. Mötet leds av Frankrikes Europa- och utrikesminister Jean-Noël Barrot och hålls under högnivådelen av generalförsamlingens 81:a session, enligt Security Council Report, som publicerar rådets arbetsprogram.
Rådet har tagit upp artificiell intelligens tidigare. Security Council Report räknar sex tidigare formella och informella möten om teknikens verkan på internationell fred och säkerhet. Onsdagens är det första som specifikt ägnas åt säkerhetsrisker och åt möjligheten att människor förlorar kontrollen över avancerade system.
Vilka som föredrar
De väntade föredragandena är Yoshua Bengio, medordförande i FN:s oberoende internationella vetenskapspanel om AI, OpenAI:s vd Sam Altman, Anthropics vd Dario Amodei och Hugging Faces vd Clément Delangue. Det är en ovanlig uppställning för en sal där de som hörs annars är särskilda sändebud och humanitära samordnare.
Kinesiska utvecklare bjöds också in att tala. Både DeepSeek och Moonshot AI fick inbjudan att göra uttalanden, rapporterade Runtime Wire den 22 september, och tillade att DeepSeeks deltagande, dess delegat och dess anförande fortfarande var obekräftade. Kinesiska statliga medier har beskrivit västerländska uppmaningar att bromsa utvecklingen i frontlinjen som ett försök att hålla Kina utanför samtalet om styrning.
Vad Frankrike satte på dagordningen
Frankrike skickade ut ett konceptdokument före mötet som betonar säker och ansvarsfull AI-utveckling och tar upp systemrisker från felriktning och förlorad kontroll över avancerade modeller. Dokumentet pekar särskilt ut möjligheten att autonoma system angriper kritisk infrastruktur, och hävdar att en artificiell generell intelligens som kan förbättra sig själv rekursivt höjer risken ytterligare.
Det ställer fyra frågor till medlemmarna: vilka risker för internationell fred och säkerhet som följer av AI-utvecklingens takt, hur statliga och icke-statliga aktörer kan hantera dem, vilka diplomatiska verktyg, samordningsåtgärder och förtroendeskapande steg som finns, och om metoder för utvärdering och verifiering kan hålla jämna steg med de system de ska mäta.
Inget slutdokument väntas
Security Council Report väntar sig ingen formell överenskommelse. Medlemmarna lär vara överens om att skyddsåtgärder behövs men oense om vem som har den reglerande befogenheten, hur långt restriktioner ska gå och hur något överenskommet skulle upprätthållas — den vanliga skiljelinjen mellan nationella och internationella styrformer.
Föredragningen kommer efter ett temadokument som FN:s oberoende vetenskapspanel om AI publicerade den 21 september, där panelen hävdade att den traditionella modellen för skyddsåtgärder håller på att falla isär när system agerar med mindre mänsklig tillsyn. Bengio är medordförande i panelen och tar med sig dess slutsatser in i salen.
Att hålla ögonen på
Två saker. Det första är om DeepSeek över huvud taget talar, och vad en kinesisk frontlinjeutvecklare säger inför rådet när ämnet är att tappa kontrollen över de egna produkterna. Det andra är om rådet behandlar detta som en enstaka föredragning eller som början på ett arbetsspår: ett ordförandeuttalande eller en resolution vore signalen, och ingetdera ligger på bordet den här veckan.
