Diez lagunas y una ley propuesta

Un comité de la Cámara de los Comunes ha pedido una ley de seguridad y protección de la IA en la próxima sesión parlamentaria, y un nuevo regulador estatutario con poderes para intervenir antes de que un modelo llegue al público. El informe, Guardrails for Growth: Making AI Safe, se publicó el 18 de noviembre por el Comité de Negocios, Innovación, Ciencia y Comercio.

El regulador que describen los diputados podría exigir la verificación independiente de las afirmaciones de seguridad de un desarrollador, pausar entrenamientos y pruebas de alto riesgo, retrasar o prohibir un despliegue y suspender servicios cuando los riesgos no puedan controlarse. El comité es explícito: las competencias deben morder mientras el sistema se construye, no solo cuando sale al mercado. Algunos modelos, señala, no pueden retirarse de forma fiable una vez copiados y distribuidos.

El informe identifica diez debilidades en el marco actual. Entre ellas: no hay definiciones legales de daños inaceptables ni umbrales de riesgo, no hay poder legal de acceso a los modelos, no hay verificación independiente de las afirmaciones de seguridad, no hay notificación obligatoria de incidentes y cuasi incidentes, la responsabilidad y el resarcimiento son inadecuados y la protección de denunciantes es insuficiente.

Pruebas sin dientes

Reino Unido ya tiene el AI Security Institute, al que el comité califica de centro de experiencia reconocido internacionalmente. Su problema es la palanca. Su acceso depende de la cooperación voluntaria y no puede impedir que una empresa publique un modelo que le preocupa.

Una sala de reuniones vacía con sillas alrededor de una mesa larga
El comité escuchó a OpenAI, Google DeepMind, Anthropic y Meta. Imagen ilustrativa. cottonbro studio · pexels · Pexels License

La respuesta del comité es separar funciones: el instituto conserva las pruebas técnicas y aporta las evidencias, un regulador distinto ejecuta, y los ministros, responsables ante el Parlamento, deciden qué nivel de riesgo debe soportar el público.

Las comparecencias que sustentan el informe incluyeron a OpenAI, Google DeepMind, Anthropic y Meta. Las cuatro dijeron a los diputados que no publicarían un modelo que considerasen inseguro. La objeción del comité no es que mientan, sino que cada una aplica su propio umbral y juzga su propio cumplimiento, sin obligación legal de pedir antes una opinión externa.

Antiguos empleados del sector contaron al comité que plantear preocupaciones de seguridad tiene un coste, y describieron contratos restrictivos, presión comercial y desincentivos económicos. El informe reclama protecciones legales para denunciantes y canales protegidos.

La cifra que acompaña al argumento

El comité presenta todo esto como política de crecimiento, no de freno. A partir de estimaciones de productividad de la OCDE, calcula que la IA podría dejar la economía británica hasta 400.000 millones de libras más grande en diez años, y sostiene que son las reglas claras las que darán a las empresas pequeñas la confianza para adoptar la tecnología. También ve en la experiencia británica en evaluación la base de una industria exportadora de certificación de IA.

Un panel de control industrial cubierto de interruptores giratorios y luces indicadoras
Los diputados quieren un regulador capaz de pausar entrenamientos de alto riesgo. Imagen ilustrativa. Florent Bertiaux · pexels · Pexels License

El presidente del comité, Liam Byrne, lo dijo más crudamente: “No podemos dar a los líderes actuales de la IA libertad sin trabas para comportarse como doctores Frankenstein modernos, creando peligros que escapan al control de cualquiera”.

Qué viene ahora

El comité quiere que los ministros publiquen, en un plazo de tres meses, sus objetivos para la presidencia británica del G20 en 2027, incluida la cooperación sobre acceso a los modelos, evaluaciones de seguridad, notificación de incidentes y publicaciones de alto riesgo, y una valoración de opciones para un convenio multilateral. Añade que buscar un acuerdo internacional no debe retrasar las salvaguardas internas.

Nada de esto obliga a nadie. Las recomendaciones de un comité son consejo, y el Gobierno no se ha comprometido con la ley. Este es además el primer informe de una investigación más larga sobre adopción, seguridad y gobernanza de la IA, así que el comité volverá.