Un conseil au complet, sous serment
Le conseil municipal de New York siège aujourd’hui en commission plénière — les 51 élus, un format inemployé depuis 2022 — pour recueillir des témoignages sur les risques de l’intelligence artificielle. Jacob Coxon, qui a démissionné d’Anthropic le mois dernier, témoignera à la demande de la présidente du conseil, Julie Menin, selon Bloomberg, repris par Reuters.
Coxon devrait être rejoint par deux autres partants de laboratoires de pointe : Alex Turner, anciennement de Google DeepMind, et Daniel Kokotajlo, ancien chercheur d’OpenAI qui dirige désormais l’AI Futures Project. En quittant Anthropic, Coxon a déclaré que ceux qui construisent l’IA “croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie”, accusant son ancien employeur et OpenAI de “jouer avec nos vies”.
Ce qui rend cette journée singulière, ce ne sont pas les témoins mais le serment. Le Congrès tient des auditions sur l’IA depuis trois ans sans contraindre personne ; un conseil municipal vient de le faire.
Comment les entreprises en sont arrivées là
Menin avait invité les dirigeants : Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk et Mark Zuckerberg. Aucun ne viendra. Anthropic, OpenAI, Google et Meta envoient chacune un représentant à la place, et ceux-ci témoigneront sous serment.
Le chemin menant à cet accord n’a pas été volontaire pour la plupart. Meta a accepté sans pression. Google et Anthropic ont décliné avant l’échéance fixée au vendredi par le conseil, puis ont accepté après avoir été averties que des assignations suivraient. OpenAI a confirmé le dimanche, après le même avertissement. SpaceXAI n’a pas répondu du tout et s’est vu signifier formellement une assignation, a rapporté amNewYork. Si l’entreprise ne s’exécute pas, le conseil peut demander à la Cour suprême de l’État de New York de la faire appliquer.
“Ces entreprises ont une présence importante à New York et emploient ensemble des dizaines de milliers de New-Yorkais”, a dit Menin, ajoutant qu’elles “le doivent à leurs salariés et, avant tout, au public : se présenter devant le conseil”.
Les textes derrière l’audition
L’audition sert à faire avancer un ensemble de propositions que le conseil a présentées le 25 septembre. Ces textes imposeraient aux systèmes d’IA vendus dans la ville une validation par un tiers et un dispositif d’arrêt d’urgence ; verseraient aux lanceurs d’alerte une part des amendes que leurs signalements génèrent ; et créeraient une action privée permettant aux New-Yorkais de poursuivre les entreprises d’IA lorsqu’un outil détourné leur cause un préjudice.
La mesure la plus large fixe une sanction de 25 000 dollars par cas et exige des contrôles indépendants portant sur la qualité des données, les biais, la vie privée et la sécurité. L’action privée est la disposition contre laquelle l’industrie fait le plus pression partout où elle apparaît, car elle retire l’application du droit à l’appréciation d’un régulateur pour la confier à quiconque dispose d’un avocat.
Pourquoi une ville
New York légifère dans un vide. Il n’existe toujours pas de loi fédérale générale sur l’IA, et la position de l’administration actuelle consiste à écarter les règles étatiques qu’elle juge pesantes plutôt qu’à écrire les siennes. Une ville ne peut pas réglementer l’entraînement des modèles, mais elle peut réglementer ce qui se vend sur son territoire, et New York est assez grande pour que s’y conformer devienne la norme ailleurs.
La question de compétence est réelle et sera plaidée si les textes passent. Une sanction de 25 000 dollars par cas appliquée à un produit vendu dans tout le pays appelle un débat sur les limites de l’autorité municipale.
Ce qu’il faut surveiller est pourtant plus étroit que ces textes. C’est de savoir si un témoignage sous serment produit ce qu’un témoignage volontaire n’a pas produit. Les dirigeants ont comparu maintes fois devant des législateurs en disant ce qu’ils avaient choisi de dire. Aujourd’hui, trois personnes parties de ces entreprises répondront aux mêmes questions, sous le même serment, au même procès-verbal.
