Un fallo 2-1 a favor del Departamento de Guerra
El Tribunal de Apelaciones del Circuito del Distrito de Columbia rechazó las peticiones de revisión de Anthropic el 25 de septiembre y confirmó la decisión del Departamento de Guerra de excluir a Claude de su cadena de suministro al amparo de la Ley de Seguridad de la Cadena de Suministro de Adquisiciones Federales de 2018. La exclusión impide que el departamento y sus contratistas ejecuten los modelos de Anthropic en sistemas de información del departamento.
El juez Gregory Katsas redactó la sentencia, con la adhesión de la jueza Neomi Rao. La jueza Karen LeCraft Henderson emitió un voto particular. El caso, alegado el 19 de mayo, lleva el número 26-1049 y se acumuló con el 26-1162.
El departamento actuó, según la sentencia, “después de que Anthropic se negara a flexibilizar las prohibiciones contractuales sobre el uso de Claude para la guerra autónoma letal o la vigilancia interna”. Anthropic alegó que la exclusión era arbitraria, carecía de amparo legal y era inconstitucional.
Por qué la mayoría dio la razón al departamento
“Rechazamos estas impugnaciones”, escribió Katsas. “El Departamento contaba con amplio respaldo para concluir que la integración continuada de Claude en los sistemas de información del Departamento, por el Departamento o por sus contratistas, presentaba un riesgo para la seguridad nacional cubierto por la ley.”
El razonamiento se apoya en lo que la propia Anthropic dice de su producto. “Como Anthropic admite, la empresa inscribe en Claude restricciones que impiden al modelo realizar tareas que Anthropic desea impedir”, dice la sentencia. “En más de una ocasión, esas restricciones han impedido que Claude realizara tareas solicitadas por usuarios del gobierno.” El tribunal también cita una disputa reciente sobre si las cláusulas contractuales vetaban el uso de Claude en una operación militar en el exterior en curso, lo que dejó al departamento “sin certeza de si Claude funcionaría como se necesitaba y se pretendía”.
Las alegaciones constitucionales también decayeron. El debido proceso se cumplió, sostuvo el tribunal, porque el departamento notificó y dio ocasión de responder. La alegación sobre la Primera Enmienda decayó porque la exclusión se basó en la “negativa de la empresa a aceptar una cláusula contractual que el Departamento consideraba esencial, y no en el apoyo de la empresa a una mayor regulación gubernamental de la tecnología de IA”.
El voto discrepante lee la ley de forma más estricta
El voto de Henderson es una cuestión de texto legal. La ley permite actuar contra un proveedor que pueda “sabotear, introducir maliciosamente funciones no deseadas, extraer datos o manipular de otro modo” la tecnología cubierta. Todo depende de esa última expresión.
Anthropic entendía “manipular” como actos subversivos y engañosos. El departamento lo entendía como operar o controlar algo, igual que se manipula un pomo de puerta, “con independencia del propósito o el motivo”, y la mayoría le dio la razón. Henderson aplicó el canon de que una palabra se conoce por la compañía que mantiene: sabotaje e introducción maliciosa connotan daño deliberado, así que “manipular” también debería. “Como creo que el contexto favorece decididamente la lectura más estricta, discrepo respetuosamente”, escribió.
Dos tribunales, dos respuestas
El fallo deja al gobierno con sentencias contradictorias. Una jueza federal del Distrito Norte de California resolvió el mes pasado que una designación paralela fue una represalia ilegal. El Circuito de DC ha confirmado ahora la otra.
Anthropic dijo que discrepa respetuosamente de la decisión y que estudia sus opciones, incluida la de pedir que el pleno del Circuito de DC revise el caso, informó Military Times. La empresa ha dicho que la designación le ha costado miles de millones en contratos, y llega mientras prepara su salida a bolsa.
Los escritos de apoyo a Anthropic fueron inusualmente amplios: el exsecretario de Defensa Leon Panetta, la Unión Estadounidense por las Libertades Civiles y el Centro para la Democracia y la Tecnología, 149 exjueces y empleados de OpenAI y Google a título personal.
La mayoría cerró nombrando el problema en lugar de resolverlo. El secretario de Guerra, escribió Katsas, “plantea la perspectiva profundamente inquietante de que modelos de IA excesivamente limitados se apaguen de forma inesperada y hagan fracasar operaciones militares importantes”. Anthropic “plantea la perspectiva profundamente inquietante de modelos de IA sin límites que alucinen objetivos inadecuados para la fuerza militar letal”. Ambas son preocupaciones de seguridad nacional, escribió, pero “en nuestra República, corresponde al Presidente y al Secretario de Guerra determinar cómo equilibrar mejor los riesgos contrapuestos”.
El siguiente paso es de Anthropic: una petición de revisión en pleno, o el Tribunal Supremo.
