Tio luckor och ett föreslaget lagförslag
Ett utskott i det brittiska underhuset kräver en lag om AI-säkerhet under nästa riksmöte, och en ny myndighet med befogenhet att ingripa innan en modell når allmänheten. Rapporten, Guardrails for Growth: Making AI Safe, publicerades den 18 november av utskottet för näringsliv, innovation, vetenskap och handel.
Myndigheten som ledamöterna beskriver skulle kunna kräva oberoende verifiering av en utvecklares säkerhetspåståenden, pausa högrisktränning och högrisktester, skjuta upp eller förbjuda en lansering och stänga av tjänster där riskerna inte kan kontrolleras. Utskottet är tydligt med att befogenheterna måste bita medan systemet byggs, inte först när det släpps: vissa modeller går, konstaterar man, inte att återkalla på ett tillförlitligt sätt när de väl kopierats och spridits.
Rapporten pekar ut tio svagheter i dagens ordning. Bland dem: inga lagfästa definitioner av oacceptabel skada eller riskgränser, ingen laglig rätt till åtkomst till modeller, ingen oberoende verifiering av säkerhetspåståenden, ingen obligatorisk rapportering av incidenter och tillbud, otillräckligt ansvar och upprättelse, och för svagt skydd för visselblåsare.
Tester utan tänder
Storbritannien har redan AI Security Institute, som utskottet kallar ett internationellt erkänt expertcentrum. Problemet är hävstången. Institutets tillträde bygger på frivillig medverkan, och det kan inte hindra ett företag från att släppa en modell som oroar.

Utskottets svar är att dela upp rollerna: institutet behåller den tekniska testningen och levererar underlaget, en separat myndighet verkställer, och statsråd som är ansvariga inför parlamentet avgör vilken risknivå allmänheten ska bära.
Utfrågningarna bakom rapporten omfattade OpenAI, Google DeepMind, Anthropic och Meta. Alla fyra sade till ledamöterna att de inte skulle släppa en modell de ansåg osäker. Utskottets invändning är inte att de ljuger, utan att var och en tillämpar sin egen tröskel och bedömer sin egen efterlevnad, utan lagkrav på att först inhämta ett utomstående omdöme.
Tidigare branschanställda berättade för utskottet att det kostar att lyfta säkerhetsfrågor, och beskrev begränsande avtal, kommersiellt tryck och ekonomiska motkrafter. Rapporten kräver lagstadgat visselblåsarskydd och skyddade rapporteringskanaler.
Siffran bakom argumentet
Utskottet ramar in allt detta som tillväxtpolitik snarare än återhållsamhet. Med OECD:s produktivitetsuppskattningar som grund räknar man med att AI kan göra den brittiska ekonomin upp till 400 miljarder pund större om tio år, och menar att tydliga regler är det som ger mindre företag modet att börja använda tekniken. Man ser också den brittiska testkompetensen som grund för en exportindustri inom AI-granskning.

Utskottets ordförande Liam Byrne sade det rakare: “Vi kan inte ge dagens AI-ledare obegränsad frihet att uppträda som moderna doktor Frankenstein och skapa faror bortom någons kontroll.”
Vad som händer härnäst
Utskottet vill att regeringen inom tre månader publicerar sina mål för Storbritanniens G20-ordförandeskap 2027, inklusive samarbete om modelltillträde, säkerhetsbedömningar, incidentrapportering och högriskreleaser, samt en bedömning av alternativ för en multilateral konvention. Man tillägger att jakten på internationell enighet inte får fördröja skyddet hemma.
Inget av detta binder någon. Utskottsrekommendationer är råd, och regeringen har inte utlovat någon lag. Det här är dessutom den första rapporten i en längre utredning om införande, säkerhet och styrning av AI, så utskottet kommer tillbaka.