Un plazo de dos meses
El gobernador Gavin Newsom firmó el 18 de septiembre la Orden Ejecutiva N-9-26, que encarga a la Agencia de Operaciones Gubernamentales de California entregar recomendaciones para endurecer las reglas de la IA de frontera —entre ellas la obligación de que los desarrolladores conserven la capacidad de apagar sus propios sistemas— a más tardar el 16 de noviembre de 2026.
La agencia debe trabajar con la Oficina de Servicios de Emergencia del gobernador y convocar a expertos nacionales. Su encargo no es escribir las reglas, sino decirle a la oficina del gobernador qué debe contener la próxima tanda legislativa de California sobre IA.
“Vamos a hacerlo con reflexión, pero con velocidad urgente; hay demasiado en juego para esperar o retrasar la acción”, dijo Newsom en el anuncio.
Tres ideas que los expertos deben sopesar
La orden nombra las preguntas que quiere responder. La primera es la capacidad de apagado en sí: obligar a los desarrolladores de frontera a que un modelo desplegado siga siendo desactivable y no solo vigilado, la medida que la oficina del gobernador llama interruptor de apagado.
La segunda es situar organizaciones de verificación independiente dentro de los laboratorios de frontera, para que la evaluación ocurra sobre el terreno y de forma continua en lugar de mediante documentos presentados después de los hechos. La tercera es ampliar la definición californiana de incidente crítico de seguridad para incluir sucesos de pérdida de control, una categoría que las reglas actuales de notificación no recogen con claridad.
Dos leyes que se aceleran
La orden no crea la maquinaria de supervisión desde cero. Acelera dos leyes ya aprobadas en California. La SB 813, del senador Jerry McNerney, establece un marco para que organizaciones de verificación independiente evalúen sistemas y modelos de IA en materia de seguridad y riesgo; la oficina del gobernador afirma que convierte a California en el primer estado que certifica a esas organizaciones. La AB 1405, de la asambleísta Rebecca Bauer-Kahan, crea un registro estatal de auditores de IA con normas de independencia asociadas.
Ambas estaban escritas para entrar en vigor según su propio calendario legal. La orden ejecutiva adelanta ese calendario y pide a la agencia que señale dónde se quedan cortas.
El incidente que hay detrás
La oficina del gobernador presenta la orden como respuesta a los recientes incidentes de seguridad en IA y a la ausencia de reglas federales. La referencia es la brecha de Hugging Face que ya ha provocado una investigación del Senado: el presidente del comité judicial, Josh Hawley, abrió una indagación sobre OpenAI el 10 de septiembre, con respuestas exigidas antes del 1 de octubre.
California pesa aquí de un modo que otros estados no. OpenAI, Anthropic, las operaciones estadounidenses de Google DeepMind, xAI y la unidad de IA de Meta están todas bajo su jurisdicción, así que un deber estatal de notificación alcanza a casi todos los laboratorios de frontera a los que llegaría una ley federal.
Qué vigilar
Las recomendaciones vencen el 16 de noviembre. No son ley: convertirlas en ley exige un proyecto en la sesión legislativa de 2027, y la obligación de apagado es la parte con más probabilidades de disputa, porque ningún desarrollador ha descrito públicamente cómo sería un mecanismo de desactivación conforme para un modelo desplegado a gran escala.
