Ett 2-1-avgörande för krigsdepartementet
Federala appellationsdomstolen för District of Columbia avslog Anthropics begäran om prövning den 25 september och fastställde krigsdepartementets beslut att utesluta Claude ur sin leveranskedja enligt Federal Acquisition Supply Chain Security Act från 2018. Uteslutningen hindrar departementet och dess leverantörer från att köra Anthropics modeller på departementets informationssystem.
Domare Gregory Katsas skrev domen, med domare Neomi Rao. Domare Karen LeCraft Henderson var skiljaktig. Målet, som föredrogs den 19 maj, har nummer 26-1049 och har förenats med 26-1162.
Departementet agerade, enligt domen, “efter att Anthropic vägrat lätta på de avtalsmässiga förbuden mot att använda Claude för dödlig autonom krigföring eller inhemsk övervakning”. Anthropic hävdade att uteslutningen var godtycklig, saknade lagstöd och var grundlagsstridig.
Varför majoriteten gick på departementets linje
“Vi avvisar dessa invändningar”, skrev Katsas. “Departementet hade gott stöd för sin slutsats att en fortsatt integration av Claude i departementets informationssystem, av departementet eller dess leverantörer, utgjorde en sådan nationell säkerhetsrisk som lagen omfattar.”
Resonemanget vilar på vad Anthropic själv säger om sin produkt. “Som Anthropic medger bygger företaget in spärrar i Claude som hindrar modellen från att utföra uppgifter som Anthropic vill förhindra”, heter det i domen. “Vid mer än ett tillfälle har dessa spärrar hindrat Claude från att utföra uppgifter som statliga användare begärt.” Domstolen pekar också på en nyligen uppkommen tvist om huruvida avtalsvillkoren hindrade användning av Claude i en pågående militär operation utomlands, vilket lämnade departementet “osäkert på om Claude skulle fungera som behövdes och avsågs”.
De grundlagsrättsliga invändningarna föll också. Kravet på rättssäker prövning var uppfyllt, fann domstolen, eftersom departementet underrättade företaget och gav det tillfälle att svara. Invändningen om yttrandefrihet föll eftersom uteslutningen vilade på företagets “vägran att godta ett avtalsvillkor som departementet ansåg nödvändigt, inte på företagets stöd för ökad statlig reglering av AI-teknik”.
Den skiljaktiga meningen läser lagen snävare
Hendersons skiljaktiga mening är en fråga om lagtext. Lagen tillåter åtgärder mot en leverantör som kan “sabotera, illvilligt införa oönskad funktion, extrahera data eller på annat sätt manipulera” den omfattade tekniken. Allt hänger på det sista ledet.
Anthropic läste “manipulera” som subversiva, vilseledande handlingar. Departementet läste det som att hantera eller styra något, så som man manipulerar ett dörrhandtag, “oavsett syfte eller motiv”, och majoriteten höll med. Henderson tillämpade regeln att ett ord känns igen på sitt sällskap: sabotage och illvilligt införande antyder båda avsiktlig skada, alltså borde “manipulera” göra det också. “Eftersom jag anser att sammanhanget med bestämdhet talar för den snävare läsningen är jag respektfullt skiljaktig”, skrev hon.
Två domstolar, två svar
Avgörandet lämnar staten med motstridiga domar. En federal domare i norra Kalifornien fann förra månaden att en parallell klassning var olaglig repressalie. DC-domstolen har nu fastställt den andra.
Anthropic sade att man respektfullt är oense med beslutet och överväger sina alternativ, däribland att begära att hela DC-domstolen prövar målet, rapporterade Military Times. Företaget har uppgett att klassningen kostat det miljarder i kontrakt, och den kommer samtidigt som Anthropic förbereder en börsnotering.
Stödinläggen för Anthropic var ovanligt breda: förre försvarsministern Leon Panetta, American Civil Liberties Union och Center for Democracy and Technology, 149 tidigare domare samt anställda vid OpenAI och Google i personlig egenskap.
Majoriteten avslutade med att namnge problemet snarare än att lösa det. Krigsministern, skrev Katsas, “reser det djupt oroande perspektivet att alltför begränsade AI-modeller stängs av oväntat och därmed får viktiga militära operationer att misslyckas”. Anthropic “reser det djupt oroande perspektivet att obegränsade AI-modeller hallucinerar olämpliga mål för dödligt militärt våld”. Båda är nationella säkerhetsfrågor, skrev han — men “i vår republik är det presidenten och krigsministern som måste avgöra hur de motstående riskerna bäst ska vägas”.
Nästa steg är Anthropics: en begäran om prövning i plenum, eller Högsta domstolen.
