Hvad forslaget gør
Senator Bernie Sanders fra Vermont og repræsentanten Greg Casar fra Texas fremsatte den 23. september Ban Artificial Superintelligence Act. Det er det mest restriktive AI-forslag, der har nået Kongressen, og det gør tre ting på én gang.
Det forbyder permanent udvikling og udrulning af kunstig superintelligens, som teksten definerer som en AI, der overgår menneskelig kognitiv ydeevne på de fleste områder, eller som har tilstrækkelig evne til at ødelægge eller afmagtiggøre menneskeheden, blandt andet ved at vælte den føderale regering.
Det sætter avanceret AI-udvikling midlertidigt på pause, men ikke al AI-udvikling, indtil der findes et føderalt tilsyn, som har skrevet sikkerhedsregler. Og det opretter dette tilsyn: et ministerium for kunstig intelligens med et videnskabeligt råd, som skal gennemgå planer før udvikling og godkende et system, før det når offentligheden.
Forstadier og straffene
Pausen udløses ikke af en beregningstærskel, som er måden, næsten alle regler om frontlinje-AI hidtil er skrevet på. Den udløses af evne. Forslaget standser systemer med det, det kalder forstadieegenskaber til superintelligens, en liste der omfatter evnen til at forstærke våben, til at vildlede mennesker og til at ændre sig selv.
Straffene er usædvanlige i teknologilovgivning. Selskaber, der bryder forbuddet, vil møde det, forslagsstillerne kalder en selskabsdødsstraf. Enkeltpersoner risikerer op til tyve års fængsel, en straflængde forslagsstillerne sammenligner med straffene for atomvåbenlovovertrædelser.
Teksten pålægger også USA at søge internationale aftaler og eksportkontroller, så forbuddet ikke blot flytter udviklingen ud af landet.
Citaterne og regnestykket
“Vores forslag forbyder udvikling af kunstig superintelligens og presser på for internationale aftaler, så ingen, noget sted, bygger AI, der er for mægtig til, at mennesker kan kontrollere den”, sagde Casar.
Sanders fremstillede det som et sammenbrud for frivillig styring. “Når menneskehedens fremtid står på spil, har vi brug for bindende internationale sikkerhedsregler, ikke frivillige branchestandarder”, sagde han. Han har også peget på laboratoriernes egne udtalelser: hvis de, der leder disse selskaber, erkender, at de er ved at miste kontrollen, er det efter hans opfattelse uansvarligt at lade dem fortsætte.
Casar var omhyggelig med at sige, at forslaget ikke ville sætte alle AI-systemer på pause, og omtalte medicinske anvendelser positivt.
Udsigterne er dårlige. Forslaget har hverken nummer eller republikansk medforslagsstiller endnu og kommer, mens administrationen bevæger sig i modsat retning. Selv dele af AI-sikkerhedsmiljøet har undladt at bakke op: Alliance for Secure AI roste hensigten, men efterlyste en mere afmålt tilgang end et forbud.
Det, forslaget gør, er at sætte et mærke. Alt, hvad Kongressen hidtil har overvejet for alvor — oplysningspligter, hændelsesrapportering, striden om føderal forrang — regulerer, hvordan frontlinjesystemer bygges. Dette er det første føderale forslag, der siger, at en kategori af systemer slet ikke bør bygges, og som knytter en fængselsstraf til at bygge den. Tallet, man skal følge, er ikke stemmetallet, som næppe bliver prøvet, men listen over medforslagsstillere.
