Ett fullsatt fullmäktige, under ed
New Yorks kommunfullmäktige sammanträder i dag som helhetsutskott — alla 51 ledamöter, ett format som inte använts sedan 2022 — för att ta emot vittnesmål om riskerna med artificiell intelligens. Jacob Coxon, som avgick från Anthropic förra månaden, vittnar på begäran av fullmäktiges talman Julie Menin, enligt Bloomberg som Reuters vidarebefordrade.
Coxon väntas få sällskap av två andra som lämnat frontlinjelabb: Alex Turner, tidigare vid Google DeepMind, och Daniel Kokotajlo, tidigare OpenAI-forskare som nu leder AI Futures Project. När Coxon lämnade Anthropic sade han att de som bygger AI “uppriktigt tror att den kan döda oss alla innan årtiondet är slut”, och anklagade sin tidigare arbetsgivare och OpenAI för att “spela med våra liv”.
Det ovanliga med i dag är inte vittnena utan eden. Kongressen har hållit AI-utfrågningar i tre år utan att tvinga någon; ett kommunfullmäktige har nu gjort det.
Hur bolagen hamnade här
Menin bjöd in verkställande direktörerna — Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk och Mark Zuckerberg. Ingen av dem kommer. Anthropic, OpenAI, Google och Meta skickar i stället var sin representant, och de vittnar under ed.
Vägen dit var inte frivillig för de flesta. Meta gick med på det utan påtryckningar. Google och Anthropic tackade nej före fullmäktiges fredagsdeadline och accepterade sedan de varnats för att kallelser skulle följa. OpenAI bekräftade på söndagen, efter samma varning. SpaceXAI svarade inte alls och delgavs formellt en kallelse, rapporterade amNewYork. Om bolaget inte efterkommer den kan fullmäktige be delstatens högsta domstol att driva igenom den.
“De här bolagen har en betydande närvaro i New York och sysselsätter tillsammans tiotusentals New York-bor”, sade Menin, och tillade att de “är skyldiga sina anställda och framför allt allmänheten att komma inför fullmäktige”.
Förslagen bakom utfrågningen
Utfrågningen finns för att driva igenom ett paket förslag som fullmäktige presenterade den 25 september. Förslagen skulle kräva att AI-system som säljs i staden genomgår tredjepartsvalidering och har en nödstoppsknapp; betala visselblåsare en del av de böter deras anmälningar leder till; och införa en rätt för enskilda att stämma AI-bolag när ett manipulerat verktyg skadar dem.
Det bredaste förslaget sätter en sanktion på 25 000 dollar per fall och kräver oberoende kontroller av datakvalitet, snedvridning, integritet och säkerhet. Rätten att stämma är den bestämmelse branschen lobbar hårdast emot varhelst den dyker upp, eftersom den flyttar tillsynen från en myndighets bedömning till händerna på var och en som har en advokat.
Varför en stad
New York lagstiftar in i ett tomrum. Det finns fortfarande ingen heltäckande federal AI-lag, och den nuvarande administrationens hållning är att tränga undan delstatsregler den anser betungande snarare än att skriva egna. En stad kan inte reglera modellträning, men den kan reglera vad som säljs inom dess gränser, och New York är stort nog för att efterlevnad där tenderar att bli standard på andra håll.
Behörighetsfrågan är verklig och kommer att prövas i domstol om förslagen går igenom. En sanktion på 25 000 dollar per fall kopplad till en produkt som säljs i hela landet inbjuder till en diskussion om var stadens befogenhet slutar.
Det som är värt att följa är ändå snävare än förslagen. Det är om edsvurna vittnesmål ger något som frivilliga vittnesmål inte har gett. Företagsledare har gång på gång framträtt inför lagstiftare och sagt det de valt att säga. I dag svarar tre personer som lämnat dessa bolag på samma frågor, under samma ed, i samma protokoll.
