Diez proyectos, una audiencia
El Concejo de la Ciudad de Nueva York presentó un paquete de diez proyectos de ley el 25 de septiembre para regular la inteligencia artificial que se venda o despliegue dentro de la ciudad, y los fijó para una audiencia del pleno el 5 de octubre, el formato que reúne a los 51 concejales a la vez.
La presidenta del Concejo, Julie Menin, patrocina los dos proyectos centrales. La Introducción 2602 haría ilegal que cualquier empresa comercialice, ofrezca en venta o despliegue en la ciudad un sistema de IA que no haya sido validado por un tercero, y exigiría que todo sistema de ese tipo lleve un interruptor de apagado: una anulación humana capaz de detenerlo. Tanto la empresa como el validador se enfrentarían a una multa de 25.000 dólares por cada caso en que un sistema se comercialice, se venda o se use sin validación, o en que una validación se falsifique.
La Introducción 2605 es la que no tiene precedente. Crearía un programa de incentivos que pagaría a los denunciantes una parte de las multas cobradas a las empresas de IA que incumplan las normas. El Concejo lo describe como el primero del país.
“Nueva York se está convirtiendo rápidamente en la capital mundial de la tecnología y la IA”, dijo Menin en el anuncio, “tenemos una responsabilidad mayor de garantizar las salvaguardas adecuadas”.
El resto del paquete
Otros ocho proyectos completan la lista. La Introducción 2600, de la concejala Virginia Maloney, crearía una acción privada contra las empresas de IA cuando el daño fuera previsible y se hubieran eludido los controles de seguridad, permitiendo demandar directamente a los desarrolladores. La Introducción 2601, de la portavoz de la mayoría Kamilah Hanks, encargaría al Cyber Command de la ciudad fijar estándares para los incidentes de seguridad con IA, con notificación en 24 horas y divulgación pública. La Introducción 2606, de Chi Ossé, obligaría al Cyber Command a tener un plan de respuesta de emergencia ante interrupciones relacionadas con la IA.
La Introducción 2604, de Kevin Riley, amplía la protección de los denunciantes a empleados municipales y contratistas que planteen problemas de seguridad pública vinculados a la IA. La Introducción 2603, de Carl Wilson, exige declaraciones de seguridad y prohíbe afirmaciones falsas o engañosas al respecto. La Introducción 2599, de Frank Morano, fija requisitos de privacidad, seguridad y transparencia para los chatbots. La Introducción 161, de Carmen De La Rosa, obliga a informar sobre el efecto de las herramientas algorítmicas en el empleo. La Introducción 504, de la vicepresidenta Nantasha Williams, permitiría a cargos públicos bloquear la generación de ultrafalsos con su imagen, un delito menor de hasta 2.500 dólares por representación.
Por qué una ciudad cree que puede hacerlo
El argumento competencial de Menin es que las empresas están allí. “Estas empresas tienen oficinas en Nueva York. El producto se vende en Nueva York, y creemos que esto entra en nuestro ámbito para poder regularlo”, dijo a Fortune. Sobre el fondo fue más directa: “Este no es un sector que deba autorregularse. Ahora mismo el problema es que eso es básicamente el estándar”.
La presencia respalda el argumento. Fortune informa de que Google tiene más de 14.000 empleados en la ciudad, que Meta alquila 1,2 millones de pies cuadrados en el 50 de Hudson Yards, que Anthropic ha tomado hace poco un edificio entero de 16 plantas y espera más de 1.000 empleados a fin de año, y que OpenAI ocupa 90.000 pies cuadrados en el Puck Building.
Si aparece alguien
Menin escribió a Altman, Amodei, Pichai, Musk y Zuckerberg pidiéndoles que participaran el 5 de octubre. El Concejo ha dicho que se espera su participación y que se reserva el derecho a usar su poder de citación si hace falta.
Fortune informó de que no se espera que ninguno de los cinco declare y de que las empresas no comentaron de inmediato.
Qué vigilar
La audiencia es el 5 de octubre. Lo que salga de ella —cinco altos ejecutivos en la sala, o cinco sillas vacías y una pelea por las citaciones— dirá más sobre si un gobierno municipal puede alcanzar a la IA de frontera que el texto de cualquiera de los diez proyectos. Ninguno se ha votado todavía.
