Tio förslag, en utfrågning
New Yorks kommunfullmäktige lade fram ett paket med tio lagförslag den 25 september som ska reglera artificiell intelligens som säljs eller används inne i staden, och satte dem till en utfrågning i plenum den 5 oktober — det format som samlar alla 51 ledamöter på en gång.
Fullmäktiges ordförande Julie Menin står bakom de två centrala förslagen. Introduction 2602 skulle göra det olagligt för ett företag att marknadsföra, erbjuda till försäljning eller använda ett AI-system i staden som inte validerats av tredje part, och kräva att varje sådant system har ett nödstopp: en mänsklig åsidosättning som kan stänga av det. Både företaget och validerarens skulle riskera 25 000 dollar i vite för varje fall där ett system marknadsförs, säljs eller används utan validering, eller där en validering förfalskas.
Introduction 2605 är den utan motstycke. Den skulle inrätta ett incitamentsprogram som betalar visselblåsare en andel av de böter som drivs in från AI-företag som bryter mot reglerna. Fullmäktige kallar det det första i landet.
“New York håller snabbt på att bli världens teknik- och AI-huvudstad”, sa Menin i beskedet, “vi har ett större ansvar att se till att skyddsåtgärderna är på plats”.
Resten av paketet
Åtta ytterligare förslag fyller ut listan. Introduction 2600, från ledamoten Virginia Maloney, skulle ge enskilda rätt att stämma AI-företag där skadan var förutsebar och säkerhetskontroller kringgåtts — alltså att gå direkt på utvecklaren. Introduction 2601, från majoritetens gruppledare Kamilah Hanks, skulle låta stadens Cyber Command sätta standarder för AI-säkerhetsincidenter, med rapportering inom 24 timmar och offentliggörande. Introduction 2606, från Chi Ossé, kräver att Cyber Command har en krisplan för AI-relaterade störningar.
Introduction 2604, från Kevin Riley, utvidgar skyddet för visselblåsare till kommunanställda och entreprenörer som larmar om AI-relaterade risker för allmänheten. Introduction 2603, från Carl Wilson, kräver säkerhetsredovisningar och förbjuder falska eller vilseledande påståenden om säkerhet. Introduction 2599, från Frank Morano, sätter krav på integritet, säkerhet och öppenhet för chatbottar. Introduction 161, från Carmen De La Rosa, kräver rapportering om hur algoritmiska verktyg påverkar arbetskraften. Introduction 504, från vice ordföranden Nantasha Williams, skulle låta förtroendevalda blockera deepfakes av sin egen bild, ett ringa brott med upp till 2 500 dollar per framställning.
Varför en stad tror sig kunna
Menins jurisdiktionsargument är att bolagen finns på plats. “De här företagen har kontor i New York. Produkten säljs i New York, och vi anser att det faller inom vårt område att kunna reglera”, sa hon till Fortune. Om sakfrågan var hon rakare: “Det här är ingen bransch som ska självreglera. Just nu är problemet att det i praktiken är standarden.”
Närvaron stöder argumentet. Fortune rapporterar att Google har över 14 000 anställda i staden, att Meta hyr 1,2 miljoner kvadratfot på 50 Hudson Yards, att Anthropic nyligen tagit en hel 16-våningsbyggnad och väntar sig över 1 000 anställda vid årets slut, och att OpenAI har 90 000 kvadratfot i Puck Building.
Om någon dyker upp
Menin skrev till Altman, Amodei, Pichai, Musk och Zuckerberg och bad dem delta den 5 oktober. Fullmäktige har sagt att deltagande förväntas och att man förbehåller sig rätten att använda sin kallelserätt om det behövs.
Fortune rapporterade att ingen av de fem väntas vittna och att bolagen inte kommenterade omgående.
Att hålla ögonen på
Utfrågningen är den 5 oktober. Vad den ger — fem vd:ar i salen, eller fem tomma stolar och en strid om kallelser — säger mer om huruvida en kommun kan nå fram till frontens AI än texten i något av de tio förslagen. Inget av dem har ännu röstats om.
