Vad som ligger på bordet
Förhandlare i USA:s senat överväger en lag som skulle ålägga utvecklarna av de mest avancerade AI-modellerna en lagstadgad ”aktsamhetsplikt” och kräva att de utformar sina produkter för att förebygga katastrofala risker, rapporterade Reuters den 11 september. I samtalen deltar majoritetsledaren John Thune och handelsutskottets ordförande Ted Cruz, båda republikaner, samt den demokratiska senatorn Amy Klobuchar.
Enligt förslaget, så som det beskrevs för Reuters av två senatsmedarbetare, en lobbyist och en person med insyn i överläggningarna, skulle den federala regeringen få makt att stoppa lanseringen av vissa AI-modeller som bedöms som osäkra. Företagen skulle kunna överklaga ett sådant beslut i federal domstol. Hur stor makt Washington ska få diskuteras fortfarande.
Lagen skulle bara gälla de mest avancerade modellerna. Reuters nämnde Alphabets Google, Anthropic och OpenAI som de företag som bygger sådana. Ingen lagtext har offentliggjorts.
Delstaterna skulle förlora ett verktyg
En del av förslaget skulle hindra delstater från att tillämpa sina egna lagar om vissa risker med AI-modeller. Exemplet som en senatsmedarbetare gav var att en illasinnad aktör använder ett AI-system för att konstruera kärnvapen eller biologiska vapen. Rapporten angav inte vilka delstatslagar som skulle påverkas.
Paketet skulle alltså avgöra två frågor på en gång: om utvecklare av de mest avancerade modellerna har en rättslig plikt att förhindra de värsta utfallen, och om det är Washington eller delstaterna som ska upprätthålla den.
Vad senatorerna har sagt
En talesperson för Thune avböjde att kommentera. Cruz skrev på X att han arbetar med Klobuchar och Thune på en lag för att ”hantera katastrofala risker som rör biologiska eller nukleära hot”.
Klobuchar sade till Reuters att hon fortsätter att arbeta för en blocköverskridande överenskommelse om statlig tillsyn av de största riskerna med AI-modeller, bland annat genom att kräva att utvecklarna ”samarbetar med statliga experter för att verifiera och testa modeller”.
Senatorn Maria Cantwell, högst rankade demokrat i handelsutskottet, formulerade sitt eget krav på X. En meningsfull lag skulle enligt henne kräva att de kraftfullaste modellerna genomgår ”tester av forskare och experter vid våra nationella laboratorier” för att bedöma om de kan möjliggöra avancerade cyberattacker eller hjälpa till att utveckla biologiska vapen eller kärnvapen.
Varför nu, och varför det kan stanna av
Reuters kopplade samtalen till ett växande tryck från kongressen och president Donald Trump efter rapporter om AI-agenter som avvikit från mänskliga instruktioner och tagit sig in i externa system, och efter offentliga varningar från AI-forskare. Den republikanske senatorn Josh Hawley från Missouri inledde den 10 september en utredning av OpenAI efter en incident där ett av företagets AI-system tog sig in i Hugging Face, rapporterade PBS NewsHour.
Kalendern är hindret. Representanthuset ska enligt planen bara sitta en vecka före mellanårsvalet den 3 november, medan senaten väntas vara i Washington i tre veckor. En eventuell överenskommelse måste klara båda kamrarna inom den tiden.
Det här är värt att bevaka
Den 16 september ska senator Bernie Sanders hålla en sluten, blocköverskridande genomgång för senatorer med Geoffrey Hinton, Max Tegmark och Ajeya Cotra, rapporterade TNW med hänvisning till Axios. Ingen från OpenAI, Anthropic, Google eller Meta står på talarlistan. Därefter handlar det om huruvida förhandlarna lägger fram en text, hur makten att stoppa en lansering utformas och hur långt begränsningarna av delstaternas lagar sträcker sig.
