Uma decisão de 2-1 a favor do Departamento da Guerra
O Tribunal Federal de Recursos do Circuito do Distrito de Columbia rejeitou os recursos da Anthropic a 25 de setembro, mantendo a decisão do Departamento da Guerra de excluir o Claude da sua cadeia de fornecimento ao abrigo da Lei de Segurança da Cadeia de Fornecimento de Aquisições Federais de 2018. A exclusão impede o departamento e os seus contratantes de executar os modelos da Anthropic em sistemas de informação do departamento.
O juiz Gregory Katsas redigiu o acórdão, acompanhado pela juíza Neomi Rao. A juíza Karen LeCraft Henderson votou vencida. O processo, alegado a 19 de maio, tem o número 26-1049 e foi apensado ao 26-1162.
O departamento agiu, diz o acórdão, “depois de a Anthropic ter recusado flexibilizar as proibições contratuais sobre o uso do Claude para guerra autónoma letal ou vigilância interna”. A Anthropic alegou que a exclusão era arbitrária, sem base legal e inconstitucional.
Porque é que a maioria deu razão ao departamento
“Rejeitamos estas impugnações”, escreveu Katsas. “O Departamento tinha amplo fundamento para concluir que a integração continuada do Claude nos seus sistemas de informação, pelo Departamento ou pelos seus contratantes, representava um risco de segurança nacional abrangido pela lei.”
O raciocínio assenta no que a própria Anthropic diz do seu produto. “Como a Anthropic admite, a empresa inscreve no Claude restrições que impedem o modelo de executar tarefas que a Anthropic quer impedir”, lê-se no acórdão. “Em mais do que uma ocasião, essas restrições impediram o Claude de executar tarefas pedidas por utilizadores do governo.” O tribunal aponta ainda uma disputa recente sobre se as cláusulas contratuais vedavam o uso do Claude numa operação militar em curso no estrangeiro, o que deixou o departamento “incerto quanto a saber se o Claude funcionaria como era necessário e pretendido”.
Os argumentos constitucionais também caíram. As garantias processuais foram cumpridas, entendeu o tribunal, porque o departamento notificou e deu oportunidade de resposta. O argumento da Primeira Emenda caiu porque a exclusão assentou na “recusa da empresa em aceitar uma cláusula contratual que o Departamento considerava essencial, e não no apoio da empresa a maior regulação governamental da tecnologia de IA”.
O voto vencido lê a lei de forma mais estrita
O voto de Henderson é uma questão de texto legal. A lei permite agir contra um fornecedor que possa “sabotar, introduzir maliciosamente funções indesejadas, extrair dados ou de outro modo manipular” a tecnologia abrangida. Tudo depende desta última expressão.
A Anthropic lia “manipular” como atos subversivos e enganosos. O departamento lia-o como operar ou controlar algo, tal como se manipula uma maçaneta, “independentemente do propósito ou do motivo”, e a maioria concordou. Henderson aplicou o cânone de que uma palavra se conhece pela companhia que tem: sabotagem e introdução maliciosa conotam ambas dano deliberado, logo “manipular” também deveria. “Porque creio que o contexto favorece decididamente a leitura mais estrita, voto vencida com respeito”, escreveu.
Dois tribunais, duas respostas
A decisão deixa o governo com sentenças contraditórias. Uma juíza federal do Distrito Norte da Califórnia entendeu no mês passado que uma designação paralela foi retaliação ilegal. O Circuito de DC manteve agora a outra.
A Anthropic disse discordar respeitosamente da decisão e estar a ponderar as suas opções, incluindo pedir que o plenário do Circuito de DC reaprecie o caso, noticiou o Military Times. A empresa afirma que a designação lhe custou milhares de milhões em contratos, e chega enquanto prepara a entrada em bolsa.
Os articulados de apoio à Anthropic foram invulgarmente amplos: o antigo secretário da Defesa Leon Panetta, a União Americana pelas Liberdades Civis e o Centro para a Democracia e a Tecnologia, 149 antigos juízes e trabalhadores da OpenAI e da Google a título pessoal.
A maioria fechou nomeando o problema em vez de o resolver. O secretário da Guerra, escreveu Katsas, “levanta a perspetiva profundamente inquietante de modelos de IA demasiado limitados desligarem-se inesperadamente e fazerem falhar operações militares importantes”. A Anthropic “levanta a perspetiva profundamente inquietante de modelos de IA sem limites a alucinar alvos inadequados para força militar letal”. Ambas são preocupações de segurança nacional, escreveu — mas “na nossa República, cabe ao Presidente e ao Secretário da Guerra determinar como melhor equilibrar os riscos concorrentes”.
O próximo passo é da Anthropic: um pedido de reapreciação pelo plenário, ou o Supremo Tribunal.
