En 2-1-afgørelse til krigsministeriet
Den føderale appeldomstol for District of Columbia afviste Anthropics begæringer om prøvelse den 25. september og stadfæstede krigsministeriets beslutning om at udelukke Claude fra sin forsyningskæde efter Federal Acquisition Supply Chain Security Act fra 2018. Udelukkelsen forhindrer ministeriet og dets leverandører i at køre Anthropics modeller på ministeriets informationssystemer.
Dommer Gregory Katsas skrev afgørelsen, tiltrådt af dommer Neomi Rao. Dommer Karen LeCraft Henderson dissentierede. Sagen, der blev procederet den 19. maj, har nummer 26-1049 og er forenet med 26-1162.
Ministeriet handlede, hedder det i afgørelsen, “efter at Anthropic nægtede at lempe de kontraktlige forbud mod at bruge Claude til dødelig autonom krigsførelse eller indenlandsk overvågning”. Anthropic gjorde gældende, at udelukkelsen var vilkårlig, uden lovhjemmel og forfatningsstridig.
Hvorfor flertallet gav ministeriet ret
“Vi forkaster disse indsigelser”, skrev Katsas. “Ministeriet havde rigeligt grundlag for sin konklusion om, at fortsat integration af Claude i ministeriets informationssystemer, af ministeriet eller dets leverandører, udgjorde en national sikkerhedsrisiko omfattet af loven.”
Begrundelsen hviler på, hvad Anthropic selv siger om sit produkt. “Som Anthropic erkender, indbygger virksomheden begrænsninger i Claude, der forhindrer modellen i at udføre opgaver, som Anthropic ønsker at forhindre”, hedder det. “Ved mere end én lejlighed har disse begrænsninger stoppet Claude i at udføre opgaver, som statslige brugere havde bedt om.” Domstolen peger også på en nylig uenighed om, hvorvidt kontraktvilkårene spærrede for brug af Claude i en igangværende militær operation i udlandet, hvilket efterlod ministeriet “usikkert på, om Claude ville fungere som nødvendigt og tilsigtet”.
De forfatningsretlige anbringender faldt også. Kravet om forsvarlig sagsbehandling var opfyldt, fandt domstolen, fordi ministeriet varslede og gav lejlighed til at svare. Anbringendet om ytringsfrihed faldt, fordi udelukkelsen hvilede på virksomhedens “nægtelse af at tiltræde et kontraktvilkår, som ministeriet anså for væsentligt, ikke på virksomhedens støtte til øget offentlig regulering af AI-teknologi”.
Dissensen læser loven snævrere
Hendersons dissens er et spørgsmål om lovtekst. Loven tillader indgreb mod en leverandør, der kan “sabotere, ondsindet indføre uønsket funktion, udtrække data eller på anden måde manipulere” den omfattede teknologi. Alt hænger på det sidste led.
Anthropic læste “manipulere” som undergravende, vildledende handlinger. Ministeriet læste det som at betjene eller styre noget, sådan som man manipulerer et dørhåndtag, “uanset formål eller motiv”, og flertallet var enigt. Henderson anvendte reglen om, at et ord kendes på det selskab, det holder: sabotage og ondsindet indførelse peger begge på bevidst skade, så det burde “manipulere” også. “Fordi jeg mener, at konteksten klart taler for den snævrere læsning, dissentierer jeg med respekt”, skrev hun.
To domstole, to svar
Afgørelsen efterlader staten med modstridende domme. En føderal dommer i det nordlige Californien fandt i sidste måned, at en parallel klassificering var ulovlig gengældelse. DC-domstolen har nu stadfæstet den anden.
Anthropic sagde, at virksomheden respektfuldt er uenig i afgørelsen og overvejer sine muligheder, herunder at bede hele DC-domstolen behandle sagen igen, skrev Military Times. Virksomheden har oplyst, at klassificeringen har kostet den milliarder i kontrakter, og den falder, mens Anthropic forbereder en børsnotering.
Indlæggene til støtte for Anthropic var usædvanligt brede: tidligere forsvarsminister Leon Panetta, American Civil Liberties Union og Center for Democracy and Technology, 149 tidligere dommere samt ansatte i OpenAI og Google i personlig egenskab.
Flertallet sluttede med at navngive problemet frem for at løse det. Krigsministeren, skrev Katsas, “rejser det dybt foruroligende perspektiv, at alt for begrænsede AI-modeller lukker ned uventet og dermed får vigtige militære operationer til at slå fejl”. Anthropic “rejser det dybt foruroligende perspektiv, at ubegrænsede AI-modeller hallucinerer uegnede mål for dødelig militær magt”. Begge er nationale sikkerhedshensyn, skrev han — men “i vores republik er det præsidenten og krigsministeren, der må afgøre, hvordan de modstridende risici bedst afvejes”.
Næste skridt er Anthropics: en begæring om fornyet behandling i plenum, eller Højesteret.
