Hva forslaget gjør
Senator Bernie Sanders fra Vermont og representanten Greg Casar fra Texas la 23. september fram Ban Artificial Superintelligence Act. Det er det mest restriktive KI-forslaget som har nådd Kongressen, og det gjør tre ting samtidig.
Det forbyr permanent utvikling og utrulling av kunstig superintelligens, som teksten definerer som en KI som overgår menneskelig kognitiv ytelse på de fleste områder, eller som har tilstrekkelig evne til å ødelegge eller avmakte menneskeheten, blant annet ved å styrte den føderale regjeringen.
Det setter avansert KI-utvikling midlertidig på pause, men ikke all KI-utvikling, til det finnes et føderalt tilsyn som har skrevet sikkerhetsregler. Og det oppretter dette tilsynet: et departement for kunstig intelligens på statsrådsnivå, med et vitenskapelig råd, som skal gjennomgå planer før utvikling og godkjenne et system før det når offentligheten.
Forstadier og straffene
Pausen utløses ikke av en beregningsterskel, som er måten nesten alle regler om frontlinje-KI hittil er skrevet på. Den utløses av evne. Forslaget stanser systemer med det det kaller forstadieegenskaper til superintelligens, en liste som omfatter evnen til å forsterke våpen, til å villede mennesker og til å endre seg selv.
Straffene er uvanlige i teknologilovgivning. Selskaper som bryter forbudet vil møte det forslagsstillerne kaller en selskapsdødsstraff. Enkeltpersoner risikerer opptil tjue års fengsel, en straffelengde forslagsstillerne sammenligner med straffene for atomvåpenlovbrudd.
Teksten pålegger også USA å søke internasjonale avtaler og eksportkontroller, slik at forbudet ikke bare flytter utviklingen ut av landet.
Sitatene og regnestykket
«Forslaget vårt forbyr utvikling av kunstig superintelligens og presser på for internasjonale avtaler, slik at ingen, noe sted, bygger KI som er for mektig til at mennesker kan kontrollere den», sa Casar.
Sanders framstilte det som et sammenbrudd for frivillig styring. «Når menneskehetens framtid står på spill, trenger vi bindende internasjonale sikkerhetsregler, ikke frivillige bransjestandarder», sa han. Han har også pekt på laboratorienes egne uttalelser: hvis de som leder disse selskapene erkjenner at de mister kontrollen, er det etter hans syn uansvarlig å la dem fortsette.
Casar var nøye med å si at forslaget ikke ville sette alle KI-systemer på pause, og omtalte medisinske anvendelser positivt.
Utsiktene er dårlige. Forslaget har verken nummer eller republikansk medforslagsstiller ennå, og kommer mens administrasjonen beveger seg i motsatt retning. Selv deler av KI-sikkerhetsmiljøet har latt være å støtte det: Alliance for Secure AI berømmet hensikten, men etterlyste en mer avmålt tilnærming enn et forbud.
Det forslaget gjør, er å sette et merke. Alt Kongressen hittil har vurdert for alvor — opplysningsplikter, hendelsesrapportering, striden om føderal forrang — regulerer hvordan frontlinjesystemer bygges. Dette er det første føderale forslaget som sier at en kategori systemer ikke bør bygges i det hele tatt, og som knytter en fengselsstraff til å bygge den. Tallet å følge er ikke stemmetallet, som neppe blir prøvd, men listen over medforslagsstillere.
