Ce que fait le texte
Le sénateur Bernie Sanders, du Vermont, et le représentant Greg Casar, du Texas, ont déposé le 23 septembre le Ban Artificial Superintelligence Act. C’est la proposition sur l’IA la plus restrictive jamais soumise au Congrès, et elle fait trois choses à la fois.
Elle interdit définitivement le développement et le déploiement de la superintelligence artificielle, que le texte définit comme une IA dépassant les performances cognitives humaines dans la plupart des domaines, ou disposant de capacités suffisantes pour détruire ou déposséder l’humanité, y compris en renversant le gouvernement fédéral.
Elle suspend temporairement le développement avancé de l’IA, mais pas tout développement d’IA, jusqu’à ce qu’un régulateur fédéral existe et ait écrit des règles de sécurité. Et elle crée ce régulateur : un ministère de l’Intelligence artificielle, doté d’un conseil scientifique, qui examinerait les plans préalables au développement et donnerait son accord avant qu’un système n’atteigne le public.
Caractéristiques précurseurs et sanctions
La suspension ne repose pas sur un seuil de calcul, comme la plupart des règles sur l’IA de frontière rédigées jusqu’ici. Elle repose sur la capacité. Le texte interdit les systèmes présentant ce qu’il appelle des caractéristiques précurseurs de superintelligence, une liste qui comprend la capacité d’améliorer des armements, de tromper des humains et de se modifier eux-mêmes.
Les sanctions sont inhabituelles dans la législation technologique. Les entités qui violeraient l’interdiction encourraient ce que les auteurs décrivent comme une peine de mort pour l’entreprise. Les personnes physiques risqueraient jusqu’à vingt ans de prison, une durée que les auteurs comparent aux peines prévues pour les infractions liées aux armes nucléaires.
Le texte charge aussi les États-Unis de rechercher des accords internationaux et des contrôles à l’exportation, pour que l’interdiction ne se contente pas de déplacer le développement à l’étranger.
Les citations et l’arithmétique
« Notre texte interdit le développement de la superintelligence artificielle et pousse à des accords internationaux, afin que personne, nulle part, ne construise une IA trop puissante pour être contrôlée par des humains », a déclaré Casar.
Sanders y voit l’échec de la gouvernance volontaire. « Quand l’avenir de l’humanité est en jeu, il nous faut des règles de sécurité internationales contraignantes, pas des standards volontaires de l’industrie », a-t-il dit. Il renvoie aussi aux déclarations des laboratoires eux-mêmes : si les dirigeants de ces entreprises reconnaissent qu’ils perdent le contrôle, il est selon lui irresponsable de les laisser continuer.
Casar a pris soin de préciser que le texte ne suspendrait pas tous les systèmes d’IA, et s’est montré enthousiaste sur les applications médicales.
Ses chances sont minces. La proposition n’a pas encore de numéro, pas de co-auteur républicain, et arrive alors que l’administration va dans le sens inverse. Une partie même du mouvement pour la sûreté de l’IA s’est abstenue de la soutenir : l’Alliance for Secure AI a salué l’intention des auteurs tout en appelant à une approche plus mesurée qu’une interdiction.
Ce que ce texte fait, c’est poser un repère. Tout ce que le Congrès a sérieusement envisagé jusqu’ici — obligations de transparence, signalement d’incidents, batailles sur la primauté fédérale — encadre la manière dont les systèmes de frontière sont construits. C’est la première proposition fédérale à dire qu’une catégorie de système ne devrait pas être construite du tout, et à y attacher une peine de prison. Le chiffre à suivre n’est pas le décompte des voix, qui ne sera probablement pas testé, mais la liste des co-auteurs.
