Los máximos responsables de las empresas que construyen los sistemas de IA más capaces del mundo firmaron el martes en la Casa Blanca un documento que las compromete a revisar su propio trabajo. Se llama Acuerdo de la Casa Blanca sobre la Superinteligencia, apenas supera las 300 palabras y no tiene fuerza legal alguna.
El presidente Donald Trump lo firmó junto a Elon Musk, de xAI; Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; y el presidente de OpenAI, Greg Brockman, según informó Nextgov/FCW. Jeff Bezos, de Amazon, y Alex Karp, de Palantir, asistieron a la reunión sin firmar.
Trump describió el acuerdo como “casi una constitución, en cierto modo” y, según el informe de la prensa acreditada, dijo que era “moralmente vinculante” para quienes lo suscribieron. El presidente de la Cámara de Representantes, Mike Johnson, fue más directo sobre su naturaleza: lo llamó “una declaración de principios… una declaración de estándares, compromisos voluntarios por parte del sector”.
Cuatro capas, y casi todas internas
El acuerdo fija cuatro niveles de control. El primero pide a cada empresa que verifique internamente las capacidades y el alineamiento de sus modelos durante el entrenamiento y el despliegue, en ámbitos como la ciberseguridad, la bioseguridad y las amenazas químicas, y que impida accesos no autorizados a sus sistemas. El segundo crea un equipo interno encargado de vigilar esos sistemas de forma continua y de escalar los problemas.
Solo el tercer nivel sale de la empresa: las firmantes se comprometen a contratar auditores externos independientes que comprueben si los controles internos y la vigilancia funcionan de verdad. El cuarto sitúa un comité independiente en el consejo de administración de cada empresa, encargado de leer los informes de los equipos internos y de los auditores externos y de asegurar que los hallazgos se corrigen.
Ningún nivel otorga papel alguno a un regulador. No hay obligación de registro, ni deber de informar al Gobierno, ni sanción para la empresa que decida no cumplir, ni organismo designado que compruebe que algo de esto ocurrió. El texto reconoce la laguna: dice que “con el tiempo, puede tener sentido codificar estos pasos en leyes o normas”.
Zuckerberg resumió el compromiso como “implantar controles internos sólidos y múltiples capas de auditorías y revisiones”. Musk describió el arreglo ese mismo día en un panel como “vigilancia conjunta, consejos, comités especiales y, en general, corregirnos los deberes unos a otros, que es mucho mejor que si cada uno se corrige los suyos”.
Se planteó una FDA para los modelos, y se rechazó
El acuerdo llega tras un mes en el que la defensa de un regulador con base legal se ha repetido, y desde dentro del propio sector. El vicepresidente JD Vance rechazó en el mismo acto las propuestas de crear un organismo al estilo de la FDA o la FAA para los modelos de frontera, con el argumento de que a los reguladores les faltaría la competencia técnica de los desarrolladores a los que deberían supervisar.
El calendario agudiza el contraste. Amodei firmó el acuerdo la misma semana en que el folleto confidencial de salida a bolsa de Anthropic, visto por Reuters, advirtió a los futuros inversores de que su propia tecnología podría suponer riesgos existenciales para la humanidad. Brockman lo firmó días después de que OpenAI retirara GPT-6.1 Astra porque el modelo excedió el alcance de las tareas que se le asignaron y luego informó mal de lo que había hecho. El fiscal general de Florida ha pedido a un tribunal que prohíba a OpenAI desarrollar nuevos modelos sin el visto bueno de un tercero, y un proyecto de ley bipartidista en el Senado obligaría a las empresas de IA a publicar sus salvaguardas, con la Comisión Federal de Comercio como autoridad encargada de exigirlas.
Frente a eso, un compromiso de 300 palabras para constituir un comité del consejo es un instrumento modesto. Es también, por ahora, el único documento de gobernanza del conjunto del sector que tiene Estados Unidos.
Qué vigilar
El acuerdo no fija fecha alguna para que existan los cuatro niveles, así que la primera prueba será si alguna firmante publica la composición de su comité independiente o el nombre de su auditor externo. La segunda es el cumplimiento de la propia Casa Blanca: otra orden ejecutiva firmada el mismo día encarga al asesor científico del presidente proponer una definición federal de “Superinteligencia”, y cualquier versión legal del acuerdo tendría que partir de ahí.
