Et fuldtalligt byråd, under ed
New Yorks byråd mødes i dag som samlet udvalg — alle 51 medlemmer, et format der ikke har været brugt siden 2022 — for at modtage vidneudsagn om risiciene ved kunstig intelligens. Jacob Coxon, der sagde op hos Anthropic i sidste måned, vidner efter anmodning fra byrådsformand Julie Menin, ifølge Bloomberg, som Reuters videregav.
Coxon ventes at få selskab af to andre, der har forladt frontlinjelaboratorier: Alex Turner, tidligere hos Google DeepMind, og Daniel Kokotajlo, tidligere OpenAI-forsker, der nu leder AI Futures Project. Da Coxon forlod Anthropic, sagde han, at de, der bygger AI, “oprigtigt tror, at den kan slå os alle ihjel inden årtiets udgang”, og anklagede sin tidligere arbejdsgiver og OpenAI for at “spille hasard med vores liv”.
Det usædvanlige ved i dag er ikke vidnerne, men eden. Kongressen har holdt AI-høringer i tre år uden at tvinge nogen; et byråd har nu gjort det.
Hvordan selskaberne endte her
Menin inviterede topcheferne — Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk og Mark Zuckerberg. Ingen af dem kommer. Anthropic, OpenAI, Google og Meta sender i stedet hver en repræsentant, og de vidner under ed.
Vejen dertil var ikke frivillig for de fleste. Meta sagde ja uden pres. Google og Anthropic afslog inden byrådets frist om fredagen og sagde ja, efter at de var blevet advaret om, at stævninger ville følge. OpenAI bekræftede om søndagen efter samme advarsel. SpaceXAI svarede slet ikke og fik formelt forkyndt en stævning, skrev amNewYork. Hvis selskabet ikke efterkommer den, kan byrådet bede delstatens højesteret om at håndhæve den.
“Disse selskaber har en betydelig tilstedeværelse i New York og beskæftiger tilsammen titusindvis af New York-borgere”, sagde Menin og tilføjede, at de “skylder deres ansatte og frem for alt offentligheden at møde op for byrådet”.
Forslagene bag høringen
Høringen findes for at drive en pakke forslag frem, som byrådet fremlagde 25. september. Forslagene ville kræve, at AI-systemer solgt i byen består en tredjepartsvalidering og har en nødstopknap; betale whistleblowere en andel af de bøder, deres anmeldelser udløser; og indføre en søgsmålsret, der lader New York-borgere sagsøge AI-selskaber, når et manipuleret værktøj skader dem.
Det bredeste forslag fastsætter en bøde på 25.000 dollar per tilfælde og kræver uafhængige kontroller af datakvalitet, bias, privatliv og sikkerhed. Søgsmålsretten er den bestemmelse, branchen lobbyer hårdest imod, hvor den end dukker op, fordi den flytter håndhævelsen fra en myndigheds skøn og over i hænderne på enhver med en advokat.
Hvorfor en by
New York lovgiver ind i et tomrum. Der findes stadig ingen samlet føderal AI-lov, og den siddende administrations holdning er at fortrænge delstatsregler, den finder byrdefulde, frem for at skrive sine egne. En by kan ikke regulere modeltræning, men den kan regulere, hvad der sælges inden for dens grænser, og New York er stor nok til, at efterlevelse dér plejer at blive standarden andre steder.
Kompetencespørgsmålet er reelt og vil blive prøvet ved domstolene, hvis forslagene vedtages. En bøde på 25.000 dollar per tilfælde knyttet til et produkt, der sælges i hele landet, inviterer til en diskussion om, hvor byens myndighed hører op.
Det, der er værd at følge, er dog snævrere end forslagene. Det er, om edsvorne vidneudsagn frembringer noget, frivillige vidneudsagn ikke har frembragt. Topchefer har gang på gang stillet op for lovgivere og sagt det, de valgte at sige. I dag svarer tre personer, der har forladt disse selskaber, på de samme spørgsmål, under den samme ed, i det samme referat.
