Une décision à 2 voix contre 1 en faveur du département de la Guerre
La cour d’appel fédérale du district de Columbia a rejeté les recours d’Anthropic le 25 septembre, confirmant la décision du département de la Guerre d’exclure Claude de sa chaîne d’approvisionnement au titre du Federal Acquisition Supply Chain Security Act de 2018. L’exclusion interdit au département et à ses sous-traitants d’exécuter les modèles d’Anthropic sur les systèmes d’information du département.
Le juge Gregory Katsas a rédigé l’arrêt, rejoint par la juge Neomi Rao. La juge Karen LeCraft Henderson a exprimé une opinion dissidente. L’affaire, plaidée le 19 mai, porte le numéro 26-1049 et a été jointe au dossier 26-1162.
Le département a agi, selon l’arrêt, « après qu’Anthropic eut refusé d’assouplir les interdictions contractuelles portant sur l’usage de Claude pour la guerre autonome létale ou la surveillance intérieure ». Anthropic soutenait que l’exclusion était arbitraire, dépourvue de base légale et inconstitutionnelle.
Pourquoi la majorité a suivi le département
« Nous rejetons ces moyens », a écrit Katsas. « Le Département disposait d’éléments amplement suffisants pour conclure que l’intégration continue de Claude dans ses systèmes d’information, par lui-même ou par ses sous-traitants, présentait un risque de sécurité nationale visé par la loi. »
Le raisonnement s’appuie sur ce qu’Anthropic dit elle-même de son produit. « Comme Anthropic l’admet, l’entreprise inscrit dans Claude des restrictions qui empêchent le modèle d’accomplir des tâches qu’Anthropic souhaite empêcher », indique l’arrêt. « À plus d’une reprise, ces restrictions ont empêché Claude d’accomplir des tâches demandées par des utilisateurs gouvernementaux. » La cour cite aussi un différend récent sur le point de savoir si les clauses contractuelles interdisaient l’emploi de Claude dans une opération militaire en cours à l’étranger, ce qui a laissé le département « incertain quant à savoir si Claude fonctionnerait comme nécessaire et prévu ».
Les moyens constitutionnels ont également échoué. Les garanties procédurales ont été respectées, a jugé la cour, le département ayant notifié sa décision et offert la possibilité d’y répondre. Le moyen tiré du Premier Amendement a échoué parce que l’exclusion reposait sur le « refus de l’entreprise de consentir à une clause contractuelle que le Département jugeait essentielle, et non sur son soutien à une réglementation publique accrue de la technologie d’IA ».
L’opinion dissidente lit la loi plus étroitement
L’opinion de Henderson est une question de texte. La loi autorise l’action contre un fournisseur susceptible de « saboter, introduire de manière malveillante une fonction non désirée, extraire des données ou manipuler d’une autre manière » la technologie visée. Tout tient à cette dernière expression.
Anthropic lisait « manipuler » comme des actes subversifs et trompeurs. Le département y voyait le fait d’actionner ou de commander quelque chose, comme on manipule une poignée de porte, « indépendamment du but ou du motif », et la majorité l’a suivi. Henderson a appliqué la règle selon laquelle un mot se comprend par son entourage : sabotage et introduction malveillante évoquent tous deux un dommage délibéré, donc « manipuler » devrait aussi. « Parce que j’estime que le contexte favorise nettement la lecture étroite, je suis respectueusement dissidente », a-t-elle écrit.
Deux juridictions, deux réponses
La décision laisse l’État face à des jugements contradictoires. Une juge fédérale du district nord de Californie a estimé le mois dernier qu’une désignation parallèle constituait des représailles illégales. La cour du district de Columbia vient de confirmer l’autre.
Anthropic a déclaré être respectueusement en désaccord avec la décision et examiner ses options, dont la demande d’un réexamen par la cour en formation plénière, a rapporté Military Times. L’entreprise affirme que la désignation lui a coûté des milliards en contrats, alors qu’elle prépare son introduction en Bourse.
Les mémoires déposés en soutien d’Anthropic étaient d’une ampleur inhabituelle : l’ancien secrétaire à la Défense Leon Panetta, l’American Civil Liberties Union et le Center for Democracy and Technology, 149 anciens juges, ainsi que des salariés d’OpenAI et de Google à titre personnel.
La majorité a conclu en nommant le problème plutôt qu’en le tranchant. Le secrétaire à la Guerre, a écrit Katsas, « soulève la perspective profondément préoccupante de modèles d’IA excessivement contraints s’arrêtant à l’improviste et faisant ainsi échouer des opérations militaires importantes ». Anthropic « soulève la perspective profondément préoccupante de modèles d’IA sans contrainte hallucinant des cibles inappropriées pour la force militaire létale ». Les deux relèvent de la sécurité nationale, a-t-il écrit, mais « dans notre République, ce sont le Président et le secrétaire à la Guerre qui doivent déterminer comment équilibrer au mieux ces risques concurrents ».
La prochaine étape appartient à Anthropic : une demande de réexamen en formation plénière, ou la Cour suprême.
