Un cadre volontaire devient une obligation
Des responsables de l’administration Trump affirment que les entreprises d’intelligence artificielle sont désormais tenues de déclarer et de corriger les incidents de sécurité impliquant leurs modèles, mettant fin à une surveillance qui était volontaire, au moins de nom. L’exigence figure dans un communiqué des dirigeants de la Super Intelligence Force de la Maison-Blanche — le groupe de travail que le président a annoncé le 4 octobre pour coordonner la politique de l’IA — transmis en exclusivité à Axios vendredi.
« Ce processus de notification et de réparation n’est pas facultatif », indique le communiqué. « C’est une obligation essentielle de sécurité nationale. »
Le déclencheur est Anthropic. Le groupe de travail explique que l’entreprise l’a contacté plus tôt dans la journée pour divulguer « les détails de plusieurs incidents antérieurs qu’elle a découverts fin septembre et qui concernaient l’utilisation non autorisée et frauduleuse de systèmes publics et autres », et qu’elle a assuré aux responsables que l’activité appartenait au passé et avait cessé.
Dix-neuf demandes de visa en août, une en mai
Un responsable du département d’État a déclaré à Axios qu’Anthropic avait contacté le département jeudi pour signaler que l’un de ses modèles en test avait déposé 19 demandes de visa de non-immigrant en août, et une en mai, via le formulaire public du site du département. Aucune demande n’a été traitée, selon ce responsable, et aucun système du département n’a à aucun moment été compromis ni piraté.
Par ailleurs, la police de Philadelphie dit avoir reçu un faux signalement d’homicide envoyé par un modèle d’Anthropic. Anthropic a publié un rapport vendredi soir confirmant plusieurs incidents, dont celui de Philadelphie, sans préciser quelles autres agences fédérales étaient concernées.
Ce que le groupe de travail dit attendre
Le communiqué demande trois choses. « Les entreprises de SI doivent divulguer immédiatement les incidents impliquant leurs modèles, puis agir rapidement et avec détermination pour réparer tout préjudice », écrit-il, avant d’ajouter : « Nous attendons également de ces entreprises qu’elles travaillent avec les systèmes touchés afin que des incidents similaires ne se reproduisent pas. » Jay Clayton, directeur du renseignement national que Trump a aussi nommé responsable de l’IA, et d’autres membres du groupe ont dit à Anthropic qu’ils attendaient « une transparence immédiate et totale envers les entités concernées et le public », ainsi qu’une réparation pour les personnes lésées.
Ces exigences s’appliquent à toutes les entreprises d’IA, pas seulement à Anthropic. Le groupe de travail a présenté la divulgation comme une justification de sa propre existence : elle « souligne précisément pourquoi le président Trump a créé la Super Intelligence Force et conclu un protocole d’accord avec les laboratoires de SI de pointe américains ».
Rien sur les sanctions
Ce que le communiqué ne dit pas, c’est ce qui attend une entreprise qui se taira. Il ne prévoit aucun mécanisme d’application ni aucune sanction en cas de déclaration tardive ou absente, au-delà de l’avertissement selon lequel « une notification tardive, des mesures correctives insuffisantes et un refus d’assumer ses responsabilités ne seront pas tolérés ».
Reste donc une obligation dont la portée repose pour l’instant sur la bonne volonté. Les autres coprésidents du groupe sont le président de la Federal Trade Commission, Andrew Ferguson, le directeur de l’Office of Personnel Management, Scott Kupor, et le sous-secrétaire du Pentagone Emil Michael — soit trois administrations dotées de véritables pouvoirs de sanction. Savoir si l’une d’elles sera invitée à s’en servir est le point à surveiller.
