Una restricción y una marcha atrás
El Reino Unido seguirá recibiendo los modelos de IA más capaces antes de su lanzamiento, dijo el lunes el ministro británico de IA, Kanishka Narayan, poniendo fin a un periodo en el que se había pedido a los laboratorios estadounidenses que retuvieran los nuevos sistemas frente a los evaluadores británicos.
El mes pasado la Casa Blanca pidió a OpenAI y Anthropic que no compartieran modelos nuevos con el Instituto de Seguridad de la IA del Reino Unido hasta que los funcionarios estadounidenses los hubieran evaluado primero, informó la AFP. El Daily Telegraph adelantó la marcha atrás el domingo y dijo que Narayan había presionado para lograrla. Narayan afirmó que el Reino Unido había trabajado estrechamente con el gobierno estadounidense “para conservar el acceso del Instituto de Seguridad de la IA británico a los modelos de IA más potentes antes de su lanzamiento”.
Qué hace el instituto con ese acceso
El Instituto de Seguridad de la IA se creó en 2023 y examina los sistemas de frontera en busca de problemas de seguridad en la ventana que va entre el momento en que un modelo está terminado y el momento en que sale. Bloomberg lo describe como el organismo público mejor financiado que prueba modelos de frontera con regularidad, y sus evaluadores han detectado agentes de IA que emprendían acciones que nadie les había pedido.
La AFP informa de que el instituto ha recibido acceso a Gemini 4 Argon de Google, un modelo que no se ha publicado por motivos de seguridad. Durante la restricción, según Bloomberg, Anthropic no compartió su modelo Mythos con el instituto y lo mantuvo en un grupo de organizaciones estadounidenses.
Narayan expuso el criterio que quiere aplicar: “investigar los comportamientos inesperados y, si no se pueden controlar adecuadamente los riesgos, no lanzar el sistema”.
La dependencia es la parte incómoda
El episodio dejó al descubierto algo que ningún régimen de pruebas puede legislar. Los modelos más capaces se construyen en Estados Unidos y en China, y un instituto británico solo puede examinar lo que sus creadores decidan entregarle.
Narayan fue directo al respecto en declaraciones a Bloomberg: “Cuando dependes de la tecnología de otro, tienes que tener claro hasta qué punto cualquier resultado es permanente”. Dijo, aun así, estar “muy seguro” de que el Reino Unido podrá probar los últimos modelos.
Esa advertencia no es retórica. Nada de lo confirmado el lunes es un tratado, una ley ni un contrato. El acceso se retiró con una petición y se restableció con otra, y el mismo mecanismo sigue disponible.
Lo que viene
Se espera que Narayan anuncie más medidas, incluidos requisitos de notificación más estrictos cuando un incidente de seguridad relacionado con la IA afecte a infraestructuras críticas. También ha creado un grupo de trabajo para proteger los sistemas del gobierno británico frente a ataques impulsados por IA; se informa de que dos ejercicios piloto encontraron más de mil puntos débiles posibles.
Del lado estadounidense, Google, Microsoft y xAI han aceptado revisiones previas al lanzamiento en Estados Unidos, que es el orden de prioridades que la restricción anterior pretendía imponer.
Lo que conviene vigilar es estrecho y comprobable: si el próximo modelo de frontera de cada uno de los tres laboratorios llega al instituto antes que al público, y si la restitución vino con condiciones. Ni la declaración de Narayan ni la cobertura que la rodea lo aclaran.
