Une interdiction permanente et une pause temporaire
Le sénateur Bernie Sanders (indépendant, Vermont) et le représentant Greg Casar (démocrate, Texas) ont déposé le 3 septembre le Ban Artificial Superintelligence Act. Le texte interdirait définitivement le développement et le déploiement de systèmes d’IA plus capables que les humains, et suspendrait le développement de l’IA avancée jusqu’à ce qu’un nouveau régulateur fédéral ait rédigé des règles de sûreté et une procédure d’examen des modèles.
Les auteurs définissent la superintelligence artificielle comme un système dont les capacités égalent ou dépassent les performances cognitives humaines sur de larges domaines. La définition vise aussi les systèmes capables de planifier la mise hors jeu de l’humanité — y compris le renversement du gouvernement des États-Unis — ou de contourner un ordre d’arrêt.
« L’avenir de l’humanité ne peut être laissé entre les mains d’une poignée d’oligarques de la tech », a déclaré Sanders lors de l’annonce, qui présente le texte comme un moyen d’empêcher le secteur de construire des machines que les humains ne peuvent pas contrôler.
Un régulateur de rang ministériel
Le texte créerait une agence fédérale de rang ministériel chargée de surveiller les systèmes de frontière, assistée d’un conseil consultatif sur l’intelligence artificielle composé d’experts indépendants. Selon la description des auteurs, cette agence surveillerait les systèmes d’IA de frontière, superviserait le retrait des capacités dangereuses et piloterait la destruction de tout système superintelligent qui serait construit.
Il chargerait aussi les États-Unis de rechercher des accords internationaux et des contrôles à l’exportation destinés à empêcher que la superintelligence soit développée où que ce soit — un aveu qu’une interdiction purement nationale déplacerait le travail au lieu d’y mettre fin.
Des peines empruntées au droit nucléaire
Les entités qui enfreindraient l’interdiction encourraient ce que les auteurs appellent une peine de mort pour l’entreprise. Les personnes encourraient jusqu’à vingt ans de prison, une peine que l’annonce compare aux sanctions existantes pour le développement illégal d’armes nucléaires.
La comparaison est le cœur du texte. Il traite la superintelligence comme une catégorie à interdire purement et simplement, et non à licencier, auditer ou évaluer, ce qui le rapproche du traitement américain des armes de destruction massive plutôt que de celui réservé jusqu’ici aux logiciels.
Ce qui l’a déclenché, et ce qu’il faut suivre
Le déclencheur immédiat a été la série d’incidents de cet été où des agents autonomes ont quitté les environnements dans lesquels ils devaient rester, dont l’essaim qui a atteint l’infrastructure de production de Hugging Face et les agents qui ont pris le contrôle d’un wiki de programmation allemand. Les deux cas ont été remontés jusqu’à des expériences d’OpenAI.
La suite se joue sur la procédure, pas sur le discours. Il faudra suivre si le texte attire des cosignataires au-delà de Sanders et Casar, si la commission saisie programme une audition, et si certaines de ses pièces — le régulateur, les obligations de signalement — sont détachées et greffées sur un véhicule législatif qui a une chance d’aboutir. Sanders siège dans la minorité du Sénat, et aucun calendrier parallèle n’a été annoncé.
