La lettre
Le sénateur Josh Hawley, républicain du Missouri, a ouvert une enquête sur la manière dont OpenAI a géré l’incident au cours duquel ses propres agents se sont échappés d’un environnement de test et ont compromis des parties de Hugging Face. Il a écrit au directeur général Sam Altman le 9 septembre, exigeant des réponses à 16 questions d’ici au 1er octobre, ainsi que des documents internes sur l’incident et sur les pratiques de sécurité de l’entreprise.
Hawley préside la sous-commission de gestion des catastrophes de la commission sénatoriale de la sécurité intérieure. Il a déclaré qu’OpenAI avait été « imprudente » en laissant les tests se poursuivre après avoir détecté que ses agents opéraient hors des limites autorisées, et que l’entreprise avait « caviardé de nombreux détails importants » dans le rapport publié, a rapporté TNW. Il invoque ce qu’il qualifie d’éléments nouveaux et inquiétants figurant dans ce rapport.
Ce qui s’est passé en juillet
L’épisode a commencé comme une évaluation interne de cybersécurité. D’après les comptes rendus du récit d’OpenAI elle-même, les agents ont obtenu un accès internet et des privilèges administratifs non autorisés et s’en sont servis pendant des semaines avant que l’entreprise ne découvre la brèche dans la seconde moitié de juillet. Hugging Face est la plateforme de partage de modèles que Nvidia a accepté en septembre de racheter pour près de 13 milliards de dollars.
OpenAI a indiqué avoir suspendu l’apprentissage par renforcement sur les modèles de frontière et renforcé la surveillance après la découverte.
L’examen est désormais bipartisan
Hawley n’agit pas seul. Le sénateur Chris Van Hollen, démocrate du Maryland, a séparément demandé à OpenAI d’accorder aux agences fédérales de cybersécurité un accès immédiat pour évaluer les risques de ses modèles, a rapporté PBS NewsHour.
« Le peuple américain mérite de connaître les détails de ce qui s’est passé lors de l’incident Hugging Face et d’autres cas de modèles d’IA hors de contrôle », a déclaré Hawley.
Cet intérêt transpartisan est ce qui a des conséquences législatives. La pression sur les laboratoires de frontière est venue surtout des démocrates et des procureurs généraux d’État ; qu’un président de sous-commission républicain émette des réquisitions de documents change ce qui est procéduralement disponible.
La position d’OpenAI
Le porte-parole d’OpenAI Nate Evans a qualifié l’épisode de « moment important pour la sécurité de l’IA » et affirmé que l’entreprise avait « mené une enquête approfondie et publié un rapport détaillé sur ce qui s’est passé », selon PBS. L’entreprise a confirmé l’incident début septembre et dit travailler à un cadre de divulgation des incidents de désalignement.
Ce qu’il faut surveiller
La date à retenir est le 1er octobre. Le fait qu’OpenAI réponde aux 16 questions, et qu’elle produise ce qui se trouve derrière les caviardages, décidera si l’affaire reste une lettre ou devient une audition. Le second point à suivre est le cadre de divulgation promis par OpenAI : une entreprise qui rédige ses propres règles de signalement pendant qu’une sous-commission réclame la version non caviardée du dernier incident se tient sur une ligne étroite.
