« Nous n’avons besoin d’aucune loi nouvelle »
Le directeur général de Nvidia, Jensen Huang, a déclaré mardi devant le public de la conférence Dreamforce de Salesforce, à San Francisco, que l’intelligence artificielle n’avait pas besoin de nouvelle réglementation et qu’il fallait faire confiance aux entreprises qui la construisent pour se surveiller elles-mêmes.
« La sûreté est un problème d’ingénierie, pas un problème juridique », a dit Huang, selon TechCrunch, qui a rapporté ses propos. Il a ajouté : « Nous n’avons besoin d’aucune loi nouvelle. Nous n’avons pas besoin de nouvelles réglementations. » Sa recette pour une entreprise hésitante sur un système était simple : « Si vous n’avez pas confiance dans son fonctionnement, sa capacité ou sa sûreté, alors ne le publiez pas. »
Huang a aussi rejeté l’idée d’un arbitrage entre vitesse et sûreté, qualifiant de faux le choix entre aller vite et aller prudemment, et affirmé que le travail qui compte vraiment consiste à construire les environnements de test dans lesquels les systèmes sont évalués.
L’autre camp se trouvait dans le même bâtiment
Le calendrier n’était pas fortuit. Dario Amodei, directeur général d’Anthropic, est lui aussi intervenu à Dreamforce, quatre jours après avoir publié un essai appelant les laboratoires de frontière à ralentir ensemble pour éviter des risques catastrophiques. Ce texte domine le secteur depuis samedi : Sam Altman, Demis Hassabis et Elon Musk y ont tous répondu, Satya Nadella a soutenu une « allure délibérée » chez Microsoft, et OpenAI a confirmé lundi discuter de sûreté avec Anthropic et Google depuis des semaines.
La position de Huang est le rejet public le plus net de cet argument par une entreprise située au cœur de la montée en puissance. Nvidia vend les puces sur lesquelles s’entraînent tous ces laboratoires, et une frontière plus lente signifie, entre autres, un carnet de commandes plus mince.
Ce qu’il propose et ce qu’il ne propose pas
Il faut être précis sur l’affirmation. Huang ne soutient pas que les systèmes d’IA sont sûrs par défaut. Il soutient que la discipline qui les rend sûrs est la même que celle qui rend sûr tout autre produit matériel et logiciel — tests, évaluation, déploiement progressif — et qu’une entreprise incapable de répondre d’un système devrait le retenir d’elle-même plutôt que sur ordre de la loi.
Le contre-argument, autour duquel ont tourné les essais et les auditions de la semaine, veut que l’incitation à retenir un système soit la plus faible précisément lorsqu’un concurrent s’apprête à publier le sien. Huang répond que le marché sanctionne une mauvaise sortie. Assez vite ? Personne à Dreamforce n’a tranché.
Ce que cela donne à Washington
Ces propos sont tombés le jour même où le sénateur Bernie Sanders et Steve Bannon partageaient une scène lors d’une « Pro-Human Assembly » à quelques rues de la Maison-Blanche, et la veille du dépôt par le sénateur John Kennedy d’un texte obligeant les développeurs d’IA à intégrer des mécanismes d’arrêt dans leurs systèmes.
Le président Trump a passé la semaine à écarter les arguments en faveur de la retenue, qualifiant l’appel à ralentir l’IA de complot et de canular. Sur la question d’une loi nouvelle, Huang et l’administration sont du même côté ; sur celle de la réalité du risque, ils ne semblent pas tenir la même conversation.
Ce qu’il faut surveiller
Nvidia publiera ses résultats en novembre, et l’écart entre ce que dit son directeur général sur l’allure et ce que ses prévisions supposent de la demande méritera une lecture côte à côte. L’épreuve la plus proche est au Sénat : le texte de Kennedy, l’interdiction de la superintelligence promise par Sanders et les travaux Thune–Klobuchar sur le blocage des modèles dangereux confrontent tous la position du « aucune loi nouvelle » à quelque chose de concret.
