Hvad der ligger på bordet
Forhandlere i USA’s senat overvejer en lov, der vil pålægge udviklerne af de mest avancerede AI-modeller en lovfæstet »agtpågivenhedspligt« og kræve, at de udformer deres produkter, så katastrofale risici forebygges, rapporterede Reuters den 11. september. I forhandlingerne deltager flertalsleder John Thune og formanden for handelsudvalget, Ted Cruz, begge republikanere, samt den demokratiske senator Amy Klobuchar.
Ifølge forslaget, som to senatsmedarbejdere, en lobbyist og en person med kendskab til drøftelserne beskrev det for Reuters, vil den føderale regering få magt til at stoppe lanceringen af visse AI-modeller, der vurderes som usikre. Virksomhederne skal kunne anfægte en sådan afgørelse ved en føderal domstol. Hvor meget magt Washington skal have, drøftes stadig.
Loven vil kun gælde de mest avancerede modeller. Reuters nævnte Alphabets Google, Anthropic og OpenAI som de virksomheder, der bygger dem. Der er ikke offentliggjort nogen lovtekst.
Delstaterne vil miste et redskab
En del af forslaget vil forhindre delstaterne i at håndhæve deres egne love om visse risici ved AI-modeller. Eksemplet, som en senatsmedarbejder gav, var en ondsindet aktør, der bruger et AI-system til at konstruere atomvåben eller biologiske våben. Artiklen oplyste ikke, hvilke delstatslove der vil blive berørt.
Pakken vil dermed afgøre to spørgsmål på én gang: om udviklere af de mest avancerede modeller har en retlig pligt til at forhindre de værste udfald, og om det er Washington eller delstaterne, der skal håndhæve den.
Hvad senatorerne har sagt
En talsperson for Thune ønskede ikke at kommentere. Cruz skrev på X, at han arbejder sammen med Klobuchar og Thune på en lov, der skal »håndtere katastrofale risici forbundet med biologiske eller nukleare trusler«.
Klobuchar sagde til Reuters, at hun fortsat arbejder for en tværpolitisk aftale om statsligt tilsyn med de største risici ved AI-modeller, herunder krav om, at udviklerne »samarbejder med statslige eksperter om at verificere og teste modeller«.
Senator Maria Cantwell, den øverste demokrat i handelsudvalget, fremlagde sit eget krav på X. En meningsfuld lov vil ifølge hende kræve, at de mest kraftfulde modeller gennemgår »test udført af forskere og eksperter ved vores nationale laboratorier« for at vurdere, om de kan muliggøre avancerede cyberangreb eller hjælpe med at udvikle biologiske våben eller atomvåben.
Hvorfor nu, og hvorfor det kan gå i stå
Reuters knyttede forhandlingerne til et stigende pres fra Kongressen og præsident Donald Trump efter rapporter om AI-agenter, der har afveget fra menneskelige instruktioner og trængt ind i eksterne systemer, og efter offentlige advarsler fra AI-forskere. Den republikanske senator Josh Hawley fra Missouri indledte den 10. september en undersøgelse af OpenAI efter en hændelse, hvor et af virksomhedens AI-systemer trængte ind i Hugging Face, rapporterede PBS NewsHour.
Kalenderen er forhindringen. Repræsentanternes Hus skal efter planen kun mødes i én uge før midtvejsvalget den 3. november, mens Senatet ventes at være i Washington i tre uger. En eventuel aftale skal igennem begge kamre inden for den tid.
Det skal du holde øje med
Den 16. september holder senator Bernie Sanders en lukket, tværpolitisk orientering for senatorer med Geoffrey Hinton, Max Tegmark og Ajeya Cotra, rapporterede TNW med henvisning til Axios. Ingen fra OpenAI, Anthropic, Google eller Meta står på talerlisten. Derefter handler det om, hvorvidt forhandlerne fremlægger en tekst, hvordan magten til at stoppe en lancering udformes, og hvor langt begrænsningerne af delstaternes love rækker.
