Una línea que descolgar cuando algo se rompe
Estados Unidos propondrá a China un proceso de notificación para los incidentes relacionados con la inteligencia artificial, dijo el secretario del Tesoro, Scott Bessent, en una entrevista con The Axios Show publicada el sábado. Añadió que espera que Pekín acepte.
Bessent explicó que él y el viceprimer ministro chino He Lifeng hablaron de seguridad de la IA antes de la visita de Estado del presidente Xi Jinping en septiembre, y que la propuesta de un canal de comunicación de incidentes formó parte de esas conversaciones. Entre los riesgos tratados, dijo a Axios, estaban los agentes de IA fuera de control y el uso de la tecnología por actores no estatales para ataques informáticos o biológicos.
La idea es deliberadamente estrecha. No es un tratado de seguridad, ni una norma compartida, ni un régimen de inspecciones. Es una línea que un gobierno descuelga cuando un sistema se ha comportado lo bastante mal como para que el otro deba saberlo. Es una petición modesta en una relación en la que la administración Trump ha rechazado la cooperación formal con Pekín en seguridad de la IA.
Por qué Bessent cree que China aceptaría
Su argumento se apoya en una afirmación sobre cómo ha cambiado el pensamiento de Pekín. “Creo que no se daban cuenta de lo potentes que son sus modelos de código abierto”, dijo Bessent, en referencia a los modelos chinos que cualquiera puede descargar y adaptar.
Citó un incidente con Kimi, la familia de modelos de Moonshot AI, en el que, según él, el modelo envió datos sensibles chinos a Anthropic. Ese fue, en su relato, uno de los hechos que “hizo que los chinos se dieran cuenta de que esta es una tecnología muy potente”.
“Muchos de estos modelos chinos son muy potentes —no tanto como los estadounidenses— pero obtienes algo que es un 80% o un 90% igual de potente, sin salvaguardas, y que puede importarse a cualquier lugar del mundo”, dijo Bessent.
Pekín tiene sus propias inquietudes sobre la tecnología, aunque no son las mismas. El jefe del espionaje chino advirtió en septiembre de que la IA podría usarse para la guerra informativa y “cognitiva” contra el gobierno, un marco que sitúa la amenaza en el control del Partido Comunista sobre la información más que en la seguridad pública.
Revisiones voluntarias y ningún escudo de responsabilidad
En casa, Bessent describió un arreglo de mano ligera que deja la responsabilidad en las empresas. Las revisiones gubernamentales de los modelos de frontera son voluntarias, dijo, aunque la administración se reserva el derecho de intervenir si un laboratorio sigue adelante pese a las dudas de seguridad.
“Son las personas de los laboratorios las que tienen que aceptar la responsabilidad, y estoy de acuerdo con eso”, afirmó. “Creo que los laboratorios también han llegado a pensar así”.
Fue más duro con los directivos que llevan semanas advirtiendo en público de que podrían perder el control de sus propios sistemas. Preguntado por esas advertencias, Bessent respondió: “Pues entonces deberían frenar”. En la misma entrevista calificó el patrón de “alarmismo sin soluciones” y dijo que eso no es liderazgo.
Lo que dice querer en su lugar es desplazar la atención de la capacidad a la defensa. “Estamos en esta carrera atropellada hacia la frontera de los modelos”, dijo a Axios. “Tenemos que empezar a preocuparnos más también por la resiliencia y la defensa”.
Qué vigilar
Bessent no dio fecha para presentar la propuesta a Pekín, no nombró al organismo que gestionaría el canal y no dijo qué contaría como incidente notificable. Son los detalles que separan un mecanismo que funciona de un anuncio. La próxima prueba será si el canal aparece en algún comunicado de las conversaciones entre Washington y Pekín posteriores a la visita de Xi.
