Hva som ligger på bordet
Forhandlere i USAs senat vurderer en lov som vil pålegge utviklerne av de mest avanserte KI-modellene en lovfestet «aktsomhetsplikt» og kreve at de utformer produktene sine for å forebygge katastrofale risikoer, meldte Reuters 11. september. Samtalene involverer flertallsleder John Thune og lederen av handelskomiteen, Ted Cruz, begge republikanere, samt den demokratiske senatoren Amy Klobuchar.
Etter forslaget, slik to senatsrådgivere, en lobbyist og en person med kjennskap til drøftingene beskrev det for Reuters, vil den føderale regjeringen få makt til å stanse lanseringen av visse KI-modeller som anses som utrygge. Selskapene skal kunne bestride en slik beslutning i føderal domstol. Hvor mye makt Washington skal få, diskuteres fortsatt.
Loven vil bare gjelde de mest avanserte modellene. Reuters nevnte Alphabets Google, Anthropic og OpenAI som selskapene som bygger slike modeller. Ingen lovtekst er offentliggjort.
Delstatene vil miste et verktøy
En del av forslaget vil hindre delstatene i å håndheve egne lover om visse risikoer ved KI-modeller. Eksemplet en senatsrådgiver ga, var at en ondsinnet aktør bruker et KI-system til å konstruere kjernevåpen eller biologiske våpen. Rapporten oppga ikke hvilke delstatslover som vil bli berørt.
Pakken vil dermed avgjøre to spørsmål på én gang: om utviklere av de mest avanserte modellene har en rettslig plikt til å hindre de verste utfallene, og om det er Washington eller delstatene som skal håndheve den.
Hva senatorene har sagt
En talsperson for Thune ønsket ikke å kommentere. Cruz skrev på X at han arbeider med Klobuchar og Thune på en lov for å «håndtere katastrofale risikoer knyttet til biologiske eller kjernefysiske trusler».
Klobuchar sa til Reuters at hun fortsatt arbeider for en tverrpolitisk avtale om statlig tilsyn med de største risikoene ved KI-modeller, blant annet ved å kreve at utviklerne «samarbeider med statlige eksperter for å verifisere og teste modeller».
Senator Maria Cantwell, den øverste demokraten i handelskomiteen, la fram sitt eget krav på X. En meningsfull lov vil ifølge henne kreve at de kraftigste modellene gjennomgår «testing av forskere og eksperter ved våre nasjonale laboratorier» for å vurdere om de kan muliggjøre avanserte dataangrep eller bidra til utvikling av biologiske våpen eller kjernevåpen.
Hvorfor nå, og hvorfor det kan stoppe opp
Reuters knyttet samtalene til økende press fra Kongressen og president Donald Trump etter rapporter om KI-agenter som har avveket fra menneskelige instruksjoner og tatt seg inn i eksterne systemer, og etter offentlige advarsler fra KI-forskere. Den republikanske senatoren Josh Hawley fra Missouri åpnet 10. september en granskning av OpenAI etter en hendelse der et av selskapets KI-systemer tok seg inn i Hugging Face, meldte PBS NewsHour.
Kalenderen er hindringen. Representantenes hus skal etter planen bare sitte én uke før mellomvalget 3. november, mens Senatet ventes å være i Washington i tre uker. En eventuell avtale må gjennom begge kamrene innen den tid.
Hva du bør følge med på
- september skal senator Bernie Sanders holde en lukket, tverrpolitisk orientering for senatorer med Geoffrey Hinton, Max Tegmark og Ajeya Cotra, meldte TNW med henvisning til Axios. Ingen fra OpenAI, Anthropic, Google eller Meta står på talerlisten. Deretter gjelder det om forhandlerne legger fram en tekst, hvordan makten til å stanse en lansering utformes, og hvor langt begrensningene på delstatenes lover strekker seg.
