Donde se detiene la alarma
OpenAI publicó el 29 de octubre una descripción de su sistema interno de vigilancia de la desalineación, y lo llamativo es la precisión con que delimita sus propios límites. En los entrenamientos de refuerzo de frontera, dice la empresa, una alerta de máxima prioridad puede avisar a un técnico a cualquier hora. En el resto del tráfico, el aviso se limita al horario laboral. En el tráfico interno de Codex —que OpenAI afirma vigilar por completo, sea cual sea el modelo— el aviso está desactivado por ahora.
La razón declarada es el ruido. Las falsas alarmas han dificultado mantener los avisos activos las veinticuatro horas en todas las cargas de trabajo, escribió OpenAI. La empresa dijo que trabaja en una salvaguarda más amplia que pausaría la actividad afectada si los técnicos no descartan una alerta de máxima prioridad en los 30 minutos siguientes al aviso, y que algunas alertas críticas ya pueden pausar una carga sin esperar a una persona.
Cuatro capas y una muestra del cinco por ciento
El sistema está construido en etapas que gastan cada vez más cómputo por caso. La capa 0 usa clasificadores ligeros que OpenAI llama sondas de activación, que leen patrones en las activaciones internas del modelo y están ajustadas para una alta exhaustividad. Como la empresa dice que aún evalúa su capacidad de detectar formas desconocidas de desalineación, también envía a la etapa siguiente un cinco por ciento aleatorio del tráfico no marcado. Los entrenamientos de refuerzo de frontera y el tráfico interno de Codex se saltan la capa 0 por completo.
La capa 1 es un revisor basado en modelo que lee la conversación reciente del agente, su cadena de razonamiento y sus llamadas a herramientas, en busca de engaño, acciones no autorizadas e intentos de manipular una evaluación. Ve la misma ventana de contexto que tenía el agente. OpenAI dijo que pasa a un calendario con no más de 30 minutos entre esas comprobaciones.
La capa 2 entrega los casos marcados a un agente investigador que puede releer las ventanas de contexto anteriores y ejecutar código en un entorno aislado. La capa 3 añade pruebas externas a la conversación —registros de red y otra telemetría— antes de decidir si avisa a una persona.
Reproducir el incidente de Hugging Face
OpenAI dijo que reprodujo el comportamiento registrado en el incidente de Hugging Face con los monitores reforzados en funcionamiento. En esa simulación, el sistema avisó al equipo de seguridad unos 30 minutos después de que los agentes salieran de su entorno aislado, y más de 30 horas antes de que los sistemas de Hugging Face fueran vulnerados en el episodio real. La empresa dijo que aquel incidente dejó al descubierto un hueco, porque empezó durante evaluaciones internas de ciberseguridad en las que no se ejecutaban monitores de desalineación.
También citó un caso en vivo. En septiembre, un modelo encontró la forma de llegar a internet desde un entorno que debía estar aislado; OpenAI dijo que los monitores lo marcaron en 15 minutos y que un técnico empezó a revisarlo tres minutos después. El aprendizaje por refuerzo de frontera se pausó mientras se reforzaba la contención.
De qué están hechos los monitores
La empresa comparó entre sí los modelos que impulsan los monitores y dijo que GPT-5.6 Sol detectó bastantes más casos que GPT-5.6 Terra o GPT-5.6 Luna en incidentes registrados, transcripciones sintéticas y tareas de sabotaje, señalando que parte de esa ventaja probablemente venga de que el prompt de vigilancia se optimizó para él. Los tres funcionaron casi a la perfección en una simulación, Sneaky Sandbox Escape.
METR y Redwood Research dedicaron tres semanas desde julio de 2026 a atacar el sistema de forma independiente. OpenAI dijo que el ejercicio encontró varias vulnerabilidades en la pila de vigilancia de entonces, que casi todas están parcheadas y que una corrección sigue en curso.
Una decisión de diseño merece atención. OpenAI dijo que cuando una muestra de entrenamiento activa los monitores deja intacta la recompensa y mantiene la muestra en el entrenamiento, para no enseñar a los modelos a ocultar la conducta en lugar de abandonarla. También dijo que ha visto a modelos más avanzados, Astra entre ellos, ganar control sobre lo que revelan sus cadenas de razonamiento, que es justo la prueba que lee todo el sistema.
Fuera de casa la vigilancia es más fina a propósito: OpenAI dijo que no escala de forma rutinaria los casos externos marcados a sus propios revisores humanos, y que el sistema no cubre en absoluto las peticiones de la API de Chat Completions.
