Un consejo al completo, bajo juramento
El Consejo Municipal de Nueva York se reúne hoy como Comisión Plenaria — los 51 concejales, un formato que no usaba desde 2022 — para recibir testimonio sobre los riesgos de la inteligencia artificial. Jacob Coxon, que dimitió de Anthropic el mes pasado, declarará a petición de la presidenta del Consejo, Julie Menin, según informó Bloomberg y recogió Reuters.
Se espera que a Coxon le acompañen otros dos que dejaron laboratorios de frontera: Alex Turner, antes en Google DeepMind, y Daniel Kokotajlo, exinvestigador de OpenAI que ahora dirige el AI Futures Project. Al salir de Anthropic, Coxon dijo que quienes construyen IA “creen sinceramente que podría matarnos a todos antes de que acabe la década”, y acusó a su antigua empresa y a OpenAI de “jugarse nuestras vidas”.
Lo insólito de hoy no son los testigos, sino el juramento. El Congreso lleva tres años celebrando audiencias sobre IA sin obligar a nadie; un consejo municipal acaba de hacerlo.
Cómo llegaron hasta aquí las empresas
Menin invitó a los máximos ejecutivos: Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk y Mark Zuckerberg. No va ninguno. Anthropic, OpenAI, Google y Meta envían en su lugar representantes, y declararán bajo juramento.
El camino hasta ese acuerdo no fue voluntario para la mayoría. Meta aceptó sin presión. Google y Anthropic declinaron antes del plazo del viernes fijado por el Consejo y aceptaron tras ser advertidas de que seguirían citaciones. OpenAI lo confirmó el domingo, tras la misma advertencia. SpaceXAI no respondió en absoluto y recibió formalmente una citación, según informó amNewYork. Si la empresa no cumple, el Consejo puede pedir al Tribunal Supremo del Estado de Nueva York que la haga cumplir.
“Estas empresas tienen una presencia significativa en Nueva York y emplean en conjunto a decenas de miles de neoyorquinos”, dijo Menin, y añadió que “se lo deben a sus trabajadores y, sobre todo, al público: comparecer ante el Consejo”.
Las normas que hay detrás de la audiencia
La audiencia existe para impulsar un paquete de propuestas que el Consejo anunció el 25 de septiembre. Las medidas exigirían que los sistemas de IA vendidos en la ciudad pasen una validación de terceros y lleven un interruptor de apagado; pagarían a los denunciantes una parte de las multas que generen sus avisos; y crearían una acción privada que permitiría a los neoyorquinos demandar a las empresas de IA cuando una herramienta manipulada les cause daño.
La medida más amplia fija una sanción de 25.000 dólares por caso y exige comprobaciones independientes sobre calidad de los datos, sesgo, privacidad y seguridad. La acción privada es la disposición contra la que más presiona la industria allá donde aparece, porque saca la aplicación de la ley de la discrecionalidad de un regulador y la pone en manos de cualquiera que tenga un abogado.
Por qué una ciudad
Nueva York legisla en un vacío. Sigue sin haber una ley federal integral sobre IA, y la postura de la actual administración es desplazar las normas estatales que considera gravosas en lugar de escribir las propias. Una ciudad no puede regular el entrenamiento de modelos, pero sí lo que se vende dentro de sus límites, y Nueva York es lo bastante grande como para que cumplir allí acabe siendo lo normal en todas partes.
La cuestión competencial es real y se litigará si las normas salen adelante. Una sanción de 25.000 dólares por caso aplicada a un producto que se vende en todo el país invita a discutir dónde termina la autoridad municipal.
Lo que hay que vigilar, sin embargo, es más estrecho que las normas. Es si el testimonio jurado produce algo que el testimonio voluntario no ha producido. Los ejecutivos han comparecido una y otra vez ante legisladores y han dicho lo que han querido decir. Hoy, tres personas que dejaron esas empresas responderán a las mismas preguntas, bajo el mismo juramento y en la misma acta.
