Deux textes, une seule mécanique
Le gouverneur Gavin Newsom a promulgué le 9 septembre deux lois sur l’intelligence artificielle qui, ensemble, construisent le premier appareil d’audit des systèmes d’IA au niveau d’un État américain.
L’Assembly Bill 1405, portée par la députée Rebecca Bauer-Kahan, d’Orinda, crée un registre d’État des auditeurs d’IA et fixe des exigences d’indépendance, de transparence et d’intégrité. La Senate Bill 813, portée par le sénateur Jerry McNerney, de Pleasanton, met en place un cadre pour des organismes de vérification indépendants habilités à évaluer la conformité des systèmes et modèles d’IA au droit de l’État.
Un texte répond à la question de savoir qui peut auditer. L’autre, à quoi sert un audit. Aucun ne fonctionne sans l’autre, d’où leur promulgation conjointe.
Le vide que le registre doit combler
L’audit d’IA existe déjà comme activité économique. Ce qui n’existait pas, c’est une norme publique définissant qui compte comme auditeur, ni un moyen pour une entreprise, un régulateur ou un juge de distinguer une évaluation rigoureuse d’un satisfecit payé. Un registre assorti d’exigences d’indépendance cherche à rendre cette distinction lisible.
“Les auditeurs indépendants sont essentiels pour garantir que l’IA soit sûre pour nos communautés et nos infrastructures critiques”, a déclaré Bauer-Kahan dans l’annonce du gouverneur.
Un État qui agit parce que Washington ne le fait pas
McNerney a été plus direct sur le motif. “La Californie prend les devants sur l’évaluation des risques de sûreté de l’IA, puisque Washington en est incapable ou n’en a pas la volonté”, a-t-il dit.
Newsom a profité de la même annonce pour appeler le gouvernement fédéral à instaurer des règles nationales, à la hauteur du rythme de la technologie tout en laissant place à un développement responsable. Le schéma rappelle les lois californiennes sur les émissions et la vie privée : un État assez grand pour imposer une norme nationale de fait le fait, puis demande à être supplanté.
Ce qu’il faut surveiller
Le fond est désormais dans l’application. Un registre ne vaut que par son test d’indépendance, et un cadre de vérification que par les critères que l’évaluateur est prié de contrôler. Il faudra suivre les textes réglementaires qui définiront les deux, et voir si les laboratoires de pointe — la plupart installés dans l’État — soumettent volontairement leurs modèles avant qu’on ne les y oblige.
