Ti huller og ét foreslået lovforslag

Et udvalg i det britiske Underhus kræver en lov om AI-sikkerhed i den kommende samling og et nyt lovfæstet tilsyn med beføjelser til at gribe ind, før en model når offentligheden. Rapporten, Guardrails for Growth: Making AI Safe, blev offentliggjort den 18. november af udvalget for erhverv, innovation, videnskab og handel.

Det tilsyn, medlemmerne beskriver, skulle kunne kræve uafhængig verifikation af en udviklers sikkerhedspåstande, pause højrisikotræning og højrisikotest, udskyde eller forbyde en udrulning og lukke tjenester, hvor risiciene ikke kan styres. Udvalget er udtrykkeligt om, at beføjelserne skal bide, mens systemet bygges, ikke først når det udkommer: nogle modeller kan, bemærker det, ikke pålideligt kaldes tilbage, når de først er kopieret og spredt.

Rapporten udpeger ti svagheder i den nuværende ordning. Blandt dem: ingen lovfæstede definitioner af uacceptabel skade eller risikogrænser, ingen lovhjemmel til adgang til modeller, ingen uafhængig verifikation af sikkerhedspåstande, ingen obligatorisk indberetning af hændelser og nærhændelser, utilstrækkeligt ansvar og erstatningsveje, og for svag beskyttelse af whistleblowere.

Test uden tænder

Storbritannien har allerede AI Security Institute, som udvalget kalder et internationalt anerkendt ekspertcenter. Problemet er løftestangen. Instituttets adgang bygger på frivilligt samarbejde, og det kan ikke forhindre et selskab i at udsende en model, det er bekymret for.

Et tomt mødelokale med stole omkring et langt bord
Udvalget hørte OpenAI, Google DeepMind, Anthropic og Meta. Illustrationsbillede. cottonbro studio · pexels · Pexels License

Udvalgets svar er at dele rollerne: instituttet beholder den tekniske test og leverer dokumentationen, et separat tilsyn håndhæver, og ministre, der står til ansvar over for parlamentet, afgør, hvilket risikoniveau offentligheden skal bære.

Høringerne bag rapporten omfattede OpenAI, Google DeepMind, Anthropic og Meta. Alle fire forsikrede medlemmerne om, at de ikke ville udsende en model, de anså for usikker. Udvalgets indvending er ikke, at de lyver, men at hver af dem anvender sin egen tærskel og bedømmer sin egen efterlevelse uden lovkrav om først at indhente en udefrakommende vurdering.

Tidligere ansatte i branchen fortalte udvalget, at det koster at rejse sikkerhedsbekymringer, og beskrev begrænsende kontrakter, kommercielt pres og økonomiske modhensyn. Rapporten beder om lovfæstet whistleblowerbeskyttelse og beskyttede indberetningskanaler.

Tallet bag argumentet

Udvalget rammesætter det hele som vækstpolitik snarere end bremseklods. Med OECD’s produktivitetsskøn som grundlag beregner det, at AI kan gøre den britiske økonomi op til 400 milliarder pund større om ti år, og hævder, at klare regler er det, der vil give mindre virksomheder mod til at tage teknologien i brug. Det ser også britisk testekspertise som grundlag for en eksporterhverv inden for AI-attestering.

Et industrielt kontrolpanel dækket af drejekontakter og indikatorlamper
Medlemmerne vil have et tilsyn, der kan pause højrisikotræning. Illustrationsbillede. Florent Bertiaux · pexels · Pexels License

Udvalgsformand Liam Byrne sagde det mere direkte: “Vi kan ikke give nutidens AI-ledere uindskrænket frihed til at opføre sig som moderne doktor Frankenstein og skabe farer uden for nogens kontrol.”

Hvad der sker nu

Udvalget vil have ministrene til inden for tre måneder at offentliggøre deres mål for Storbritanniens G20-formandskab i 2027, herunder samarbejde om modeladgang, sikkerhedsvurderinger, hændelsesindberetning og højrisikoudgivelser, samt en vurdering af mulighederne for en multilateral konvention. Det tilføjer, at jagten på international enighed ikke må forsinke værn herhjemme.

Intet af dette binder nogen. Udvalgsanbefalinger er råd, og regeringen har ikke forpligtet sig til loven. Det er desuden den første rapport i en længere undersøgelse af udbredelse, sikkerhed og styring af AI, så udvalget vender tilbage.