To måneders frist
Guvernør Gavin Newsom underskrev den 18. september dekret N-9-26, som pålægger Californiens Government Operations Agency at aflevere anbefalinger om skærpede regler for frontmodeller — heriblandt et krav om, at udviklere bevarer evnen til at slukke deres egne systemer på anmodning — senest den 16. november 2026.
Myndigheden skal arbejde sammen med guvernørens beredskabskontor og indkalde nationale eksperter. Opgaven er ikke selv at skrive reglerne, men at fortælle guvernørens kontor, hvad Californiens næste runde AI-lovgivning bør indeholde.
“Vi vil gøre det gennemtænkt, men med hastende fart; der står for meget på spil til at vente eller udskyde”, sagde Newsom i meddelelsen.
Tre spørgsmål eksperterne skal veje
Dekretet peger på, hvad det vil have svar på. Det første er slukkeevnen i sig selv: en pligt for frontudviklere til at holde en model i drift slukbar og ikke blot overvåget — den foranstaltning, guvernørens kontor kalder et nødstop.
Det andet er at placere uafhængige verifikationsorganisationer inde i frontlaboratorierne, så vurderingen sker på stedet og løbende i stedet for gennem papirer, der indleveres bagefter. Det tredje er at udvide Californiens definition af en kritisk sikkerhedshændelse, så den omfatter hændelser, hvor kontrollen mistes — en kategori, delstatens nuværende indberetningsregler ikke fanger tydeligt.
To love, der fremskyndes
Dekretet bygger ikke tilsynsapparatet fra bunden. Det fremskynder to love, der allerede findes i Californien. SB 813 af senator Jerry McNerney opretter en ramme for, at uafhængige verifikationsorganisationer kan vurdere AI-systemer og modeller for sikkerhed og risiko; guvernørens kontor oplyser, at den gør Californien til den første delstat, der certificerer sådanne organisationer. AB 1405 af medlemmet Rebecca Bauer-Kahan opretter et delstatsregister over AI-revisorer med krav om uafhængighed.
Begge var skrevet til at træde i kraft efter deres egen tidsplan. Dekretet rykker den tidsplan frem og beder myndigheden pege på, hvor lovteksterne kommer til kort.
Hændelsen bag
Guvernørens kontor fremstiller dekretet som et svar på de seneste sikkerhedshændelser inden for AI og på fraværet af føderale regler. Referencepunktet er indbruddet mod Hugging Face, som allerede har udløst en undersøgelse i Senatet: retsudvalgets formand Josh Hawley åbnede en undersøgelse af OpenAI den 10. september med svarfrist den 1. oktober.
Californien vejer tungere her end andre delstater. OpenAI, Anthropic, Google DeepMinds amerikanske aktiviteter, xAI og Metas AI-enhed ligger alle inden for jurisdiktionen, så en indberetningspligt på delstatsniveau når næsten lige så mange frontlaboratorier, som en føderal lov ville.
Hvad vi holder øje med
Anbefalingerne har frist den 16. november. De er ikke lov: at gøre dem til lov kræver et forslag i lovgivningsforsamlingens samling i 2027, og slukkepligten er den del, der sandsynligvis bliver mest omstridt, fordi ingen udvikler offentligt har beskrevet, hvordan en regelret slukkemekanisme for en bredt udrullet model ville se ud.
