Un humain doit rouvrir le dossier
Le parlement de Californie a transmis au gouverneur Gavin Newsom la SB 947, un texte qui empêcherait un employeur d’utiliser seul un système de décision automatisée pour sanctionner ou licencier un salarié. L’Assemblée l’a adopté par 53 voix contre 14 le 30 août et le Sénat par 28 contre 10, selon le cabinet de son auteur, le sénateur Jerry McNerney.
Le mécanisme est étroit et précis. Lorsqu’un employeur s’appuie principalement sur la sortie d’un système de décision automatisée pour une sanction ou un licenciement, le texte impose de charger un examinateur humain de mener une enquête indépendante et de réunir des éléments corroborant ou étayant la décision. Un simple tampon ne suffit pas au regard de la lettre du texte : l’examinateur doit aller chercher quelque chose.
Notification, données et sanctions
Le texte accorde aussi deux droits au salarié après coup. Il doit recevoir une notification écrite au moment de la décision, indiquant qu’un examen humain a eu lieu et fournissant un contact pour toute question. Et il peut demander une description de ses propres données utilisées par le système pour cette décision, une fois tous les douze mois.
Par ailleurs, le texte interdit d’utiliser un système de décision automatisée pour enfreindre le droit du travail, pour déduire le statut protégé d’un salarié, pour mener une analyse comportementale prédictive à des fins d’emploi, ou pour anticiper et sanctionner un salarié qui exerce ses droits. Il interdit les représailles contre ceux qui font valoir les droits qu’il crée. Le contrôle revient au Labor Commissioner et les sanctions civiles atteignent 500 dollars par infraction. En cas de signature, les dispositions entrent en vigueur le 1er juillet 2027.
Le cabinet de McNerney a résumé le texte en une phrase : l’IA doit rester un outil contrôlé par les humains, et non l’inverse.
L’échéance est le sujet
Le parlement a clos sa session le 31 août après avoir adopté une trentaine de textes liés à l’IA, selon la Transparency Coalition, une association qui suit la session. Deux ont été signés en juin : l’AB 2148, qui exige que les employés des écoles soient des personnes physiques, et la SB 719 sur la divulgation du suivi de localisation des véhicules. Le reste est sur le bureau du gouverneur, qui a jusqu’au 30 septembre pour signer ou opposer son veto.
Le reste de la pile couvre un terrain très large. L’AB 1709 interdirait aux réseaux sociaux de proposer des fils personnalisés et la lecture automatique aux moins de 16 ans. La SB 867 tiendrait les chatbots de compagnie hors des jouets. La SB 928 exigerait que les enseignants de la California State University soient humains. L’AB 1883 restreindrait les outils de surveillance par IA au travail qui analysent les états émotionnels, et la SB 1119 actualiserait les protections de sécurité des chatbots.
Ce qu’il faut surveiller
Les décisions tombent dans la même fenêtre de quatre semaines, ce qui fait du 30 septembre la date à retenir plutôt qu’un texte en particulier. Pour la SB 947, une signature entraîne deux choses : une entrée en vigueur au 1er juillet 2027 qui laisse neuf mois aux employeurs, et la définition de ce que signifie s’appuyer « principalement » sur un système automatisé, point de départ des débats de conformité. Un veto laisserait la décision automatisée au travail en Californie encadrée par le seul droit du travail et de la vie privée existant.
