Ti forslag, én høring
New Yorks byråd fremlagde en pakke med ti lovforslag den 25. september, der skal regulere kunstig intelligens, som sælges eller tages i brug inde i byen, og satte dem til en høring i plenum den 5. oktober — det format, der samler alle 51 medlemmer på én gang.
Byrådsformand Julie Menin står bag de to centrale forslag. Introduction 2602 ville gøre det ulovligt for en virksomhed at markedsføre, udbyde til salg eller tage et AI-system i brug i byen, som ikke er valideret af tredjepart, og kræve, at hvert sådant system har et nødstop: en menneskelig tilsidesættelse, der kan slukke det. Både virksomheden og validatoren ville risikere 25.000 dollar i bøde for hvert tilfælde, hvor et system markedsføres, sælges eller bruges uden validering, eller hvor en validering forfalskes.
Introduction 2605 er den uden fortilfælde. Den ville oprette et incitamentsprogram, der betaler whistleblowere en andel af de bøder, der inddrives fra AI-virksomheder, som bryder reglerne. Byrådet kalder det det første i landet.
“New York er hurtigt ved at blive verdens teknologi- og AI-hovedstad,” sagde Menin i meddelelsen, “vi har et større ansvar for at sikre, at beskyttelsen er på plads”.
Resten af pakken
Otte yderligere forslag fylder listen ud. Introduction 2600, fra byrådsmedlem Virginia Maloney, ville give enkeltpersoner ret til at sagsøge AI-virksomheder, hvor skaden var forudsigelig, og sikkerhedskontroller blev omgået — altså at gå direkte efter udvikleren. Introduction 2601, fra gruppeformand Kamilah Hanks, ville lade byens Cyber Command fastsætte standarder for AI-sikkerhedshændelser, med indberetning inden for 24 timer og offentliggørelse. Introduction 2606, fra Chi Ossé, ville pålægge Cyber Command at have en beredskabsplan for AI-relaterede forstyrrelser.
Introduction 2604, fra Kevin Riley, udvider whistleblowerbeskyttelsen til kommunalt ansatte og leverandører, der rejser AI-relaterede bekymringer for den offentlige sikkerhed. Introduction 2603, fra Carl Wilson, kræver sikkerhedsoplysninger og forbyder falske eller vildledende udsagn om sikkerhed. Introduction 2599, fra Frank Morano, stiller krav til privatliv, sikkerhed og gennemsigtighed for chatbots. Introduction 161, fra Carmen De La Rosa, kræver rapportering om, hvordan algoritmiske værktøjer påvirker arbejdsstyrken. Introduction 504, fra næstformand Nantasha Williams, ville lade folkevalgte blokere deepfakes af deres eget ansigt, en forseelse med op til 2.500 dollar per fremstilling.
Hvorfor en by mener, den kan
Menins kompetenceargument er, at virksomhederne er der. “Disse virksomheder har kontorer i New York. Produktet sælges i New York, og vi mener, at det falder inden for vores område at kunne regulere,” sagde hun til Fortune. Om selve sagen var hun mere direkte: “Det her er ikke en branche, der bør selvregulere. Problemet lige nu er, at det i praksis er standarden.”
Tilstedeværelsen understøtter argumentet. Fortune skriver, at Google har over 14.000 ansatte i byen, at Meta lejer 1,2 millioner kvadratfod på 50 Hudson Yards, at Anthropic for nylig har taget en hel bygning på 16 etager og venter over 1.000 ansatte ved årets udgang, og at OpenAI har 90.000 kvadratfod i Puck Building.
Om nogen møder op
Menin skrev til Altman, Amodei, Pichai, Musk og Zuckerberg og bad dem deltage den 5. oktober. Byrådet har sagt, at deltagelse forventes, og at det forbeholder sig retten til at bruge sin indkaldelsesmagt, hvis det bliver nødvendigt.
Fortune skrev, at ingen af de fem ventes at afgive forklaring, og at virksomhederne ikke kommenterede med det samme.
Hvad man skal følge
Høringen er den 5. oktober. Hvad der kommer ud af den — fem topchefer i salen, eller fem tomme stole og en strid om indkaldelser — siger mere om, hvorvidt en kommune kan nå frontens AI, end teksten i noget af de ti forslag. Ingen af dem er stemt om endnu.
