Vad förslaget gör
Senator Bernie Sanders från Vermont och ledamoten Greg Casar från Texas lade den 23 september fram Ban Artificial Superintelligence Act. Det är det mest restriktiva AI-förslag som hittills nått kongressen, och det gör tre saker samtidigt.
Det förbjuder permanent utveckling och driftsättning av artificiell superintelligens, som texten definierar som en AI som överträffar mänsklig kognitiv förmåga inom de flesta områden, eller som har tillräcklig förmåga att förgöra eller avmakta mänskligheten, bland annat genom att störta den federala regeringen.
Det pausar tillfälligt avancerad AI-utveckling, men inte all AI-utveckling, tills det finns en federal tillsynsmyndighet som har skrivit säkerhetsregler. Och det inrättar den myndigheten: ett departement för artificiell intelligens på statsrådsnivå, med ett vetenskapligt råd, som skulle granska planer före utveckling och godkänna ett system innan det når allmänheten.
Förstadier och straffen
Pausen utlöses inte av ett beräkningströskelvärde, vilket är så nästan alla regler om frontlinje-AI hittills har skrivits. Den utlöses av förmåga. Förslaget stoppar system med vad det kallar förstadieegenskaper till superintelligens, en lista som omfattar förmågan att förstärka vapen, att vilseleda människor och att ändra sig själva.
Straffen är ovanliga i teknikpolitik. Bolag som bryter mot förbudet skulle möta vad förslagsställarna kallar ett bolagsdödsstraff. Enskilda skulle riskera upp till tjugo års fängelse, en strafftid som förslagsställarna jämför med straffen för kärnvapenbrott.
Texten ger också USA i uppdrag att söka internationella överenskommelser och exportkontroller, så att förbudet inte bara flyttar utvecklingen utomlands.
Citaten och räkneövningen
“Vårt förslag förbjuder utveckling av artificiell superintelligens och driver på för internationella överenskommelser, så att ingen, någonstans, bygger AI som är för kraftfull för människor att kontrollera”, sa Casar.
Sanders beskrev det som ett misslyckande för frivillig styrning. “När mänsklighetens framtid står på spel behöver vi bindande internationella säkerhetsregler, inte frivilliga standarder från branschen”, sa han. Han har också pekat på labbens egna uttalanden: om de som driver bolagen medger att de håller på att tappa kontrollen är det oansvarigt att låta dem fortsätta, menar han.
Casar var noga med att säga att förslaget inte skulle pausa alla AI-system, och talade positivt om medicinska tillämpningar.
Utsikterna är dåliga. Förslaget har ännu inget nummer och ingen republikansk medförslagsställare, och kommer medan administrationen rör sig åt motsatt håll. Även delar av AI-säkerhetsrörelsen har avstått från att ställa sig bakom det: Alliance for Secure AI berömde avsikten men efterlyste ett mer avvägt angreppssätt i stället för ett förbud.
Det förslaget gör är att sätta ett märke. Allt kongressen hittills övervägt på allvar — upplysningskrav, incidentrapportering, striden om delstaternas utrymme — reglerar hur frontlinjesystem byggs. Det här är det första federala förslaget som säger att en kategori av system inte bör byggas alls, och som fäster ett fängelsestraff vid att bygga den. Siffran att följa är inte röstsiffran, som knappast kommer att prövas, utan listan över medförslagsställare.
