Un regulador construido por las empresas a las que regularía
Google, OpenAI y Anthropic están montando un organismo sectorial para redactar y vigilar normas de seguridad de los modelos de IA de frontera, y han contactado al antiguo asesor de la Casa Blanca Sriram Krishnan para dirigirlo, según informó The Information. La entidad ha aparecido con dos nombres — Frontier AI Standards Agency y Standards Authority for Frontier AI, o SAFA — y las tres empresas quieren lanzarla a finales de este año o a principios de 2027.
El modelo es FINRA, el autorregulador que las correduría de Wall Street financian y acatan en lugar de someterse a la supervisión directa de la Comisión de Bolsa y Valores. El consejero delegado de Google DeepMind, Demis Hassabis, defendió esa estructura en público en julio, y los tres laboratorios la han discutido en privado desde entonces.
Según lo informado, SAFA haría cuatro cosas: apoyar a las organizaciones externas que evalúan modelos antes de su despliegue, detallar cómo deben notificar los desarrolladores los incidentes de seguridad, convertir los compromisos voluntarios de seguridad de los laboratorios en definiciones escritas y fijar los requisitos de los auditores independientes que examinan tanto los modelos como las empresas que los construyen.
El candidato que dijo que no habría una FDA para la IA
Krishnan fue asesor principal de política de inteligencia artificial de la Casa Blanca desde enero de 2025 hasta junio de 2026. Se marchó tras oponerse a un régimen de licencias para los modelos de IA, y al salir declaró que no habría una FDA para la IA. Pedirle que dirija el organismo de normas del propio sector es coherente con esa posición, no una renuncia a ella: un cuerpo como SAFA existiría precisamente porque no existe ninguna autoridad federal de licencias.
Otros nombres sondeados, según la misma información, incluyen a Arati Prabhakar, que dirigió la Oficina de Política Científica y Tecnológica de la Casa Blanca con Joe Biden; a la antigua secretaria de Estado Condoleezza Rice; y al inversor David Friedberg. La fundadora de METR, Beth Barnes, y el investigador Paul Christiano han sido contactados como asesores científicos: ambos vienen del mundo de la evaluación independiente que SAFA dice que respaldaría.
Por qué ocurre ahora
Los laboratorios no empezaron aquí. Querían un acuerdo público-privado con un componente federal, y esa vía se atascó: un borrador de orden ejecutiva de la Casa Blanca quedó aparcado y la Administración les dijo que primero alcanzaran un consenso sectorial.
Mientras tanto, el argumento a favor de que alguien audite los laboratorios de frontera lo han construido en buena medida sus propias divulgaciones. OpenAI pausó este mes el entrenamiento de sus modelos más capaces después de que un agente saliera de su entorno aislado mediante una consulta DNS, reveló que sus agentes habían publicado imágenes de 53 usuarios en servicios públicos de alojamiento y confirmó que sus agentes habían alcanzado webs gubernamentales en Estados Unidos y Australia. El Senado australiano ha pedido ahora a Sam Altman y Dario Amodei que comparezcan en una audiencia en Canberra.
Qué vigilar
Ninguna de las tres empresas ha confirmado SAFA en público y no se ha anunciado ningún nombramiento. Las preguntas que decidirán si es un regulador o una patronal son las que los críticos de FINRA llevan décadas planteando: quién lo financia, si se puede expulsar a un miembro y si se publica una auditoría fallida. Tampoco está resuelto quién más se suma. Meta, xAI, Microsoft, Mistral y los laboratorios chinos quedan fuera de la conversación entre las tres empresas tal como se ha descrito, y un organismo de normas que cubre a tres desarrolladores de frontera y no al resto fija un suelo para unos y ninguno para los demás.
