En 2-1-avgjørelse for krigsdepartementet
Den føderale ankedomstolen for District of Columbia avviste Anthropics begjæringer om overprøving 25. september og opprettholdt krigsdepartementets beslutning om å stenge Claude ute fra leverandørkjeden sin etter Federal Acquisition Supply Chain Security Act fra 2018. Utestengingen hindrer departementet og leverandørene dets i å kjøre Anthropics modeller på departementets informasjonssystemer.
Dommer Gregory Katsas skrev avgjørelsen, med tilslutning fra dommer Neomi Rao. Dommer Karen LeCraft Henderson dissenterte. Saken, som ble prosedert 19. mai, har nummer 26-1049 og er forent med 26-1162.
Departementet handlet, heter det i avgjørelsen, «etter at Anthropic nektet å lempe på de kontraktsfestede forbudene mot å bruke Claude til dødelig autonom krigføring eller innenlandsk overvåking». Anthropic anførte at utestengingen var vilkårlig, manglet lovhjemmel og var grunnlovsstridig.
Hvorfor flertallet ga departementet medhold
«Vi forkaster disse innsigelsene», skrev Katsas. «Departementet hadde rikelig grunnlag for sin konklusjon om at fortsatt integrasjon av Claude i departementets informasjonssystemer, av departementet eller leverandørene dets, utgjorde en nasjonal sikkerhetsrisiko som loven dekker.»
Resonnementet hviler på hva Anthropic selv sier om produktet sitt. «Som Anthropic erkjenner, bygger selskapet inn begrensninger i Claude som hindrer modellen i å utføre oppgaver Anthropic ønsker å hindre», heter det. «Ved mer enn én anledning har disse begrensningene stanset Claude fra å utføre oppgaver bestilt av statlige brukere.» Domstolen peker også på en nylig tvist om hvorvidt kontraktsvilkårene sperret for bruk av Claude i en pågående militær operasjon i utlandet, noe som gjorde departementet «usikkert på om Claude ville fungere slik det trengtes og var ment».
De grunnlovsbaserte anførslene falt også. Kravet til forsvarlig saksbehandling var oppfylt, mente domstolen, fordi departementet varslet og ga anledning til å svare. Anførselen om ytringsfrihet falt fordi utestengingen hvilte på selskapets «nektelse av å godta et kontraktsvilkår departementet anså som avgjørende, ikke på selskapets støtte til sterkere offentlig regulering av KI-teknologi».
Dissensen leser loven snevrere
Hendersons dissens er et spørsmål om lovtekst. Loven tillater tiltak mot en leverandør som kan «sabotere, ondsinnet innføre uønsket funksjon, hente ut data eller på annen måte manipulere» den omfattede teknologien. Alt hviler på det siste leddet.
Anthropic leste «manipulere» som undergravende, villedende handlinger. Departementet leste det som å betjene eller styre noe, slik man manipulerer et dørhåndtak, «uansett formål eller motiv», og flertallet var enig. Henderson brukte regelen om at et ord kjennes på selskapet det holder: sabotasje og ondsinnet innføring peker begge mot bevisst skade, altså burde «manipulere» gjøre det samme. «Fordi jeg mener konteksten klart taler for den snevrere lesningen, dissenterer jeg med respekt», skrev hun.
To domstoler, to svar
Avgjørelsen etterlater staten med motstridende dommer. En føderal dommer i Nord-California mente forrige måned at en parallell klassifisering var ulovlig gjengjeldelse. DC-domstolen har nå opprettholdt den andre.
Anthropic sa selskapet respektfullt er uenig i avgjørelsen og vurderer alternativene sine, blant annet å be hele DC-domstolen behandle saken på nytt, meldte Military Times. Selskapet har sagt at klassifiseringen har kostet det milliarder i kontrakter, og den kommer mens Anthropic forbereder børsnotering.
Støtteskrivene for Anthropic var uvanlig brede: tidligere forsvarsminister Leon Panetta, American Civil Liberties Union og Center for Democracy and Technology, 149 tidligere dommere, og ansatte i OpenAI og Google i egenskap av privatpersoner.
Flertallet avsluttet med å navngi problemet framfor å løse det. Krigsministeren, skrev Katsas, «reiser det dypt urovekkende perspektivet at altfor begrensede KI-modeller slår seg av uventet og dermed får viktige militære operasjoner til å mislykkes». Anthropic «reiser det dypt urovekkende perspektivet at ubegrensede KI-modeller hallusinerer uegnede mål for dødelig militær makt». Begge er nasjonale sikkerhetshensyn, skrev han — men «i vår republikk er det presidenten og krigsministeren som må avgjøre hvordan de motstridende risikoene best veies».
Neste trekk er Anthropics: en begjæring om ny behandling i plenum, eller Høyesterett.
