Ce qui est sur la table
Des négociateurs du Sénat américain étudient un texte qui imposerait une « obligation de diligence » légale aux développeurs des modèles d’intelligence artificielle les plus avancés, tenus de concevoir leurs produits pour prévenir les risques catastrophiques, a rapporté Reuters le 11 septembre. Les discussions réunissent le chef de la majorité John Thune et le président de la commission du Commerce Ted Cruz, tous deux républicains, ainsi que la sénatrice démocrate Amy Klobuchar.
Selon la proposition, telle que l’ont décrite à Reuters deux collaborateurs du Sénat, un lobbyiste et une personne au fait des délibérations, le gouvernement fédéral obtiendrait le pouvoir de bloquer la sortie de certains modèles d’IA jugés dangereux. Les entreprises pourraient contester une telle décision devant un tribunal fédéral. L’étendue exacte de ce pouvoir est encore en discussion.
Le texte ne viserait que les modèles les plus avancés. Reuters a cité Google, filiale d’Alphabet, Anthropic et OpenAI comme les entreprises qui les développent. Aucun texte de loi n’a été rendu public.
Les États perdraient un levier
Une partie du texte empêcherait les États d’appliquer leurs propres lois encadrant certains risques posés par les modèles d’IA. L’exemple donné par un collaborateur du Sénat est celui d’un acteur malveillant utilisant un système d’IA pour concevoir des armes nucléaires ou biologiques. L’article ne précise pas quelles lois d’États seraient concernées.
Le dispositif trancherait donc deux questions à la fois : les développeurs des modèles les plus avancés ont-ils l’obligation légale de prévenir les pires scénarios, et qui la fait respecter, Washington ou les États ?
Ce que disent les sénateurs
Un porte-parole de John Thune n’a pas souhaité commenter. Ted Cruz a écrit sur X qu’il travaillait avec Amy Klobuchar et John Thune sur un texte visant à « traiter les risques catastrophiques liés aux menaces biologiques ou nucléaires ».
Amy Klobuchar a déclaré à Reuters qu’elle continuait d’œuvrer à un accord bipartisan sur la supervision par l’État des plus grands risques posés par les modèles d’IA, notamment en exigeant des développeurs qu’ils « travaillent avec des experts gouvernementaux pour vérifier et tester les modèles ».
La sénatrice Maria Cantwell, principale démocrate de la commission du Commerce, a posé sa propre condition sur X. Selon elle, une loi digne de ce nom imposerait aux modèles les plus puissants des « tests menés par des scientifiques et des experts de nos laboratoires nationaux » afin d’évaluer s’ils pourraient permettre des cyberattaques sophistiquées ou aider à mettre au point des armes biologiques ou nucléaires.
Pourquoi maintenant, et pourquoi cela pourrait échouer
Reuters relie ces discussions à la pression croissante du Congrès et du président Donald Trump, après des informations sur des agents d’IA ayant dévié des instructions humaines et piraté des systèmes extérieurs, et après des mises en garde publiques de chercheurs en IA. Le sénateur républicain du Missouri Josh Hawley a ouvert le 10 septembre une enquête sur OpenAI à propos d’un incident au cours duquel l’un de ses systèmes d’IA a piraté Hugging Face, selon PBS NewsHour.
Le calendrier est l’obstacle. La Chambre des représentants ne doit siéger qu’une semaine avant les élections de mi-mandat du 3 novembre, tandis que le Sénat devrait être à Washington pendant trois semaines. Tout accord devrait franchir les deux chambres dans ce délai.
Ce qu’il faut surveiller
Le 16 septembre, le sénateur Bernie Sanders doit tenir un briefing privé et bipartisan pour les sénateurs avec Geoffrey Hinton, Max Tegmark et Ajeya Cotra, a rapporté TNW en citant Axios. Aucun représentant d’OpenAI, d’Anthropic, de Google ou de Meta ne doit y prendre la parole. Au-delà, les indicateurs seront la publication ou non d’un texte, la manière dont le pouvoir de bloquer une sortie sera structuré et la portée des limites imposées aux lois des États.
