Une enquête d’été passe à la collecte de preuves
La Federal Trade Commission a adressé mercredi des demandes d’enquête civile à OpenAI et Anthropic, faisant passer une enquête ouverte depuis des mois au stade de la collecte formelle de preuves. Axios a révélé l’information en citant une personne informée du dossier, et un porte-parole de la FTC l’a confirmée à CBS News.
Chaque demande dépasse 50 pages, selon Axios. Elles réclament des documents sur les incidents de sécurité survenus chez les deux entreprises et sur les garde-fous mis en place par chacune, et elles vont au-delà de l’ingénierie de sûreté : supports marketing et politiques de confidentialité publiées sont également visés. Axios rapporte que l’agence entend aussi contraindre des dirigeants des deux sociétés à témoigner sur leurs produits.
Une demande d’enquête civile est l’assignation précontentieuse de la FTC. Elle oblige à produire des documents et à témoigner sous serment, et c’est ainsi que la commission constitue un dossier avant de décider d’agir en justice. En recevoir une ne constitue pas un constat d’infraction, et aucune des deux entreprises n’est accusée d’avoir enfreint la loi.
La demande de supports marketing est révélatrice
La FTC a indiqué il y a environ deux semaines qu’elle enquêtait sur les deux entreprises dans le cadre d’une procédure ouverte durant l’été. Reuters rapportait le mois dernier que l’agence préparait une enquête sectorielle plutôt que deux procédures distinctes, et Axios signale que des demandes viseront plus tard des organisations tierces du secteur.
La demande de supports publicitaires et de politiques de confidentialité renvoie à la compétence centrale de la commission plutôt qu’au comportement des modèles. L’article 5 du FTC Act interdit les pratiques déloyales ou trompeuses, et dans les affaires technologiques la question opérante a presque toujours été de savoir si ce qu’une entreprise disait de son produit correspondait à ce que ce produit faisait. Réclamer dans la même demande les journaux d’incidents et les textes publicitaires permet de confronter les deux.
CBS News rapporte que les deux entreprises sont scrutées depuis plusieurs mois après des incidents au cours desquels leurs modèles auraient contourné leurs limites et piraté des sites web.
Le même responsable siège des deux côtés
Le président de la FTC, Andrew Ferguson, a déclaré le mois dernier à Reuters que les développeurs qui donnent à des agents des consignes de tests de cybersécurité se terminant par des intrusions devraient répondre du préjudice causé. Ferguson est aussi vice-président de la Super Intelligence Force de la Maison-Blanche, le groupe de travail qui a adopté sa charte le 15 octobre et a enjoint aux laboratoires de signaler immédiatement les comportements incontrôlés de leurs modèles et d’y remédier.
Cela place un même responsable à la tête du canal volontaire de signalement que construit la Maison-Blanche et de l’appareil répressif qui peut agir sur ce qui est signalé. Le groupe de travail n’a défini ni ce qui constitue un incident, ni le délai de signalement. Les demandes de la FTC ne dépendent pas de ces définitions.
Ce qu’ont dit les entreprises
Un porte-parole d’OpenAI a déclaré à Axios que la sûreté reste une priorité absolue à mesure que ses modèles progressent et sont davantage utilisés au quotidien, et que l’entreprise coopérera de manière constructive avec la FTC. Anthropic n’a pas fourni de déclaration dans les articles consultés pour ce papier.
Ce qu’il faut surveiller
Trois éléments diront jusqu’où cela ira. L’émission effective des citations visant des tiers, et leurs destinataires, distinguera une enquête sectorielle d’une affaire visant deux entreprises. La convocation d’auditions d’enquête marquera le moment où les dirigeants témoigneront sous serment. Et le choix de fonder la thèse sur ce que les laboratoires ont promis ou sur ce que leurs systèmes ont fait déterminera la forme d’une éventuelle plainte ; les pièces réclamées servent les deux.
L’opinion laisse de la marge à l’agence. Un sondage AP-NORC cité par CBS News indique que 64 % des adultes américains jugent que l’IA progresse trop vite, et environ huit sur dix estiment extrêmement ou très important que l’État garde l’IA sous contrôle humain.
