Dos leyes, una misma maquinaria
El gobernador Gavin Newsom firmó el 9 de septiembre dos leyes sobre inteligencia artificial que, juntas, levantan el primer aparato estatal de auditoría de sistemas de IA en Estados Unidos.
La Assembly Bill 1405, de la asambleísta Rebecca Bauer-Kahan, de Orinda, crea un registro estatal de auditores de IA y fija normas sobre su independencia, transparencia e integridad. La Senate Bill 813, del senador Jerry McNerney, de Pleasanton, establece un marco para organizaciones de verificación independiente capaces de evaluar si los sistemas y modelos de IA cumplen la ley estatal.
Una ley responde a quién puede auditar. La otra, para qué sirve una auditoría. Ninguna funciona sin la otra, y por eso se firmaron juntas.
El hueco que el registro quiere tapar
La auditoría de IA ya existe como negocio. Lo que no existía era un estándar público sobre quién cuenta como auditor, ni forma alguna de que una empresa, un regulador o un tribunal distinga una evaluación rigurosa de un aval pagado. Un registro con requisitos de independencia es un intento de hacer legible esa diferencia.
“Los auditores externos son esenciales para garantizar que la IA sea segura para nuestras comunidades y nuestras infraestructuras críticas”, declaró Bauer-Kahan en el anuncio del gobernador.
Un estado que actúa porque Washington no lo hace
McNerney fue más directo sobre el motivo. “California está tomando la delantera en la evaluación de los riesgos de seguridad de la IA, ya que Washington no puede o no quiere hacerlo”, afirmó.
Newsom aprovechó el mismo anuncio para pedir al Gobierno federal normas nacionales: una regulación al ritmo de la tecnología que aun así permita un desarrollo responsable. El patrón se reconoce de la legislación californiana sobre emisiones y privacidad: un estado lo bastante grande para fijar un estándar nacional de facto lo fija, y acto seguido pide que lo sustituyan.
Qué vigilar
Lo sustancial está ahora en el desarrollo reglamentario. Un registro vale lo que valga su prueba de independencia, y un marco de verificación vale lo que valgan los criterios que se pide comprobar al evaluador. Habrá que seguir la normativa que defina ambos, y ver si los laboratorios de frontera —casi todos con sede en el estado— someten voluntariamente sus modelos antes de que alguien se lo exija.
