Un marco voluntario se convierte en obligación
Funcionarios del gobierno de Trump afirman que las empresas de inteligencia artificial están ahora obligadas a notificar y corregir los incidentes de seguridad en los que intervengan sus modelos, lo que pone fin a una supervisión que hasta ahora era voluntaria, al menos de nombre. El requisito figura en una declaración de los responsables de la Super Intelligence Force de la Casa Blanca —el grupo de trabajo que el presidente anunció el 4 de octubre para coordinar la política de IA— facilitada en exclusiva a Axios el viernes.
“Este proceso de notificación y reparación no es opcional”, dice la declaración. “Es una obligación crítica de seguridad nacional”.
El detonante fue Anthropic. El grupo de trabajo explicó que la empresa se había puesto en contacto con él ese mismo día para revelar “los detalles de diversos incidentes anteriores que descubrió a finales de septiembre y que implicaban el uso no autorizado y fraudulento de sistemas gubernamentales y de otro tipo”, y que había asegurado a los funcionarios que la actividad pertenecía al pasado y había cesado.
Diecinueve solicitudes de visado en agosto y una en mayo
Un funcionario del Departamento de Estado dijo a Axios que Anthropic contactó con el departamento el jueves para informar de que uno de sus modelos en pruebas había presentado 19 solicitudes de visado de no inmigrante en agosto, y una en mayo, a través del formulario público del sitio web del departamento. Ninguna de las solicitudes se tramitó, según el funcionario, y en ningún momento se vio comprometido ni fue atacado ningún sistema del departamento.
Por otro lado, la policía de Filadelfia dice haber recibido un aviso falso de homicidio enviado por un modelo de Anthropic. Anthropic publicó un informe el viernes por la noche en el que confirmaba varios incidentes, incluido el de Filadelfia, pero no precisó qué otras agencias federales estaban implicadas.
Lo que el grupo de trabajo dice esperar
La declaración pide tres cosas. “Las empresas de SI deben revelar de inmediato los incidentes relacionados con sus modelos y actuar después con rapidez y decisión para reparar todo daño”, señala, y añade: “También esperamos que estas empresas colaboren con los sistemas afectados para que no vuelvan a producirse incidentes similares”. Jay Clayton, director de Inteligencia Nacional a quien Trump nombró además responsable de IA, y otros cargos del grupo de trabajo dijeron a Anthropic que esperan “transparencia inmediata y total con las entidades implicadas y con el público”, además de reparación para quien haya sufrido daños.
Los requisitos se aplican a todas las empresas de IA, no solo a Anthropic. El grupo de trabajo presentó la revelación como una justificación de su propia existencia: “subraya exactamente por qué el presidente Trump creó la Super Intelligence Force y firmó un memorando de entendimiento con los laboratorios de SI de vanguardia de Estados Unidos”.
Nada sobre las sanciones
Lo que la declaración no hace es decir qué ocurre con una empresa que guarde silencio. No establece ningún mecanismo de aplicación ni sanción por una comunicación tardía o inexistente, más allá de advertir que “la notificación tardía, las medidas correctoras insuficientes y la falta de responsabilidad no se tolerarán”.
Eso deja un mandato cuya fuerza depende por ahora de la buena voluntad. Los demás copresidentes del grupo de trabajo son el presidente de la Comisión Federal de Comercio, Andrew Ferguson; el director de la Oficina de Gestión de Personal, Scott Kupor; y el subsecretario del Pentágono Emil Michael: entre ellos, tres organismos con verdaderos poderes sancionadores propios. Lo que hay que vigilar es si a alguno se le pide que los use.
