Et fulltallig bystyre, under ed
New Yorks bystyre møtes i dag som samlet komité — alle 51 medlemmer, et format som ikke har vært brukt siden 2022 — for å ta imot vitnemål om risikoen ved kunstig intelligens. Jacob Coxon, som sa opp i Anthropic forrige måned, vitner etter anmodning fra bystyreleder Julie Menin, ifølge Bloomberg som Reuters gjenga.
Coxon ventes å få følge av to andre som har forlatt frontlinjelaboratorier: Alex Turner, tidligere i Google DeepMind, og Daniel Kokotajlo, tidligere OpenAI-forsker som nå leder AI Futures Project. Da Coxon forlot Anthropic, sa han at de som bygger KI “oppriktig tror at den kan drepe oss alle før tiåret er omme”, og anklaget sin tidligere arbeidsgiver og OpenAI for å “gamble med livene våre”.
Det uvanlige i dag er ikke vitnene, men eden. Kongressen har holdt KI-høringer i tre år uten å tvinge noen; et bystyre har nå gjort det.
Hvordan selskapene havnet her
Menin inviterte toppsjefene — Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk og Mark Zuckerberg. Ingen av dem kommer. Anthropic, OpenAI, Google og Meta sender i stedet hver sin representant, og de vitner under ed.
Veien dit var ikke frivillig for de fleste. Meta sa ja uten press. Google og Anthropic takket nei innen bystyrets frist på fredag og sa ja etter å ha blitt advart om at innkallinger ville følge. OpenAI bekreftet på søndagen, etter samme advarsel. SpaceXAI svarte ikke i det hele tatt og fikk formelt forkynt en innkalling, meldte amNewYork. Hvis selskapet ikke etterkommer den, kan bystyret be delstatens høyesterett om å håndheve den.
“Disse selskapene har en betydelig tilstedeværelse i New York og sysselsetter til sammen titusenvis av New York-borgere”, sa Menin, og la til at de “skylder sine ansatte og framfor alt allmennheten å møte for bystyret”.
Forslagene bak høringen
Høringen finnes for å drive fram en pakke forslag bystyret la fram 25. september. Forslagene ville kreve at KI-systemer som selges i byen består en tredjepartsvalidering og har en nødstoppbryter; betale varslere en andel av bøtene meldingene deres utløser; og innføre en søksmålsrett som lar New York-borgere saksøke KI-selskaper når et manipulert verktøy skader dem.
Det bredeste forslaget setter en bot på 25 000 dollar per tilfelle og krever uavhengige kontroller av datakvalitet, skjevhet, personvern og sikkerhet. Søksmålsretten er bestemmelsen bransjen lobber hardest mot overalt der den dukker opp, fordi den flytter håndhevingen fra et tilsyns skjønn og over i hendene på hvem som helst med en advokat.
Hvorfor en by
New York lovgir inn i et tomrom. Det finnes fortsatt ingen helhetlig føderal KI-lov, og den sittende administrasjonens holdning er å fortrenge delstatsregler den mener er tyngende, framfor å skrive sine egne. En by kan ikke regulere modelltrening, men den kan regulere hva som selges innenfor grensene sine, og New York er stort nok til at etterlevelse der pleier å bli standarden andre steder.
Kompetansespørsmålet er reelt og vil bli prøvd for retten dersom forslagene går gjennom. En bot på 25 000 dollar per tilfelle knyttet til et produkt som selges over hele landet, innbyr til en diskusjon om hvor byens myndighet slutter.
Det som er verdt å følge, er likevel smalere enn forslagene. Det er om edsvorne vitnemål gir noe frivillige vitnemål ikke har gitt. Toppledere har møtt for lovgivere gang på gang og sagt det de valgte å si. I dag svarer tre personer som har forlatt disse selskapene på de samme spørsmålene, under den samme eden, i den samme protokollen.
