Un botón de parada en la capa de inferencia
OpenAI ha descrito un sistema llamado Control Room que registra todas las cargas de trabajo de modelos que corren en su infraestructura de investigación y puede impedir que cualquiera de ellas siga produciendo salida. En una publicación del 9 de noviembre, la empresa afirma que el tiempo máximo entre el momento en que Control Room recibe la instrucción de detener un trabajo y el momento en que ya no es posible ningún avance es de 35 segundos.
Lo llamativo es dónde está el freno. Al código de investigación — los experimentos, las evaluaciones y los trabajos de muestreo de gran volumen que los investigadores escriben y modifican constantemente — no se le pide que compruebe si todavía tiene permiso para funcionar. En su lugar, toda carga de trabajo de investigación que haga inferencia agéntica debe registrarse en Control Room y recibir un identificador de trabajo, que adjunta a cada petición que envía a un motor de inferencia. Es el motor, y no la carga de trabajo, el que pregunta a Control Room si ese trabajo sigue autorizado. Si la respuesta es no, el motor se niega a generar.
La razón que da OpenAI es directa. El código de las cargas de trabajo, escribe, “cambia a menudo y no es el lugar ideal para implementar protecciones de seguridad críticas que soportan peso”. Existen muy pocas rutas de código de inferencia en toda su investigación, así que esa capa puede actuar como cuello de botella donde se revisa cada petición.
De dónde salen los 35 segundos
El retardo no es deliberación. OpenAI lo atribuye a una capa de caché para la autorización de inferencia, necesaria para sostener el volumen de tráfico requerido, y dice estar “trabajando para reducir esa cifra a cero y poder terminar trabajos de forma instantánea”. Hasta entonces, un modelo al que se ha ordenado parar puede seguir produciendo salida durante hasta medio minuto.
Cada trabajo registrado debe además estar vinculado a un caso de seguridad aprobado, un requisito que la empresa expuso en una publicación de septiembre sobre casos de seguridad para el entrenamiento de IA de frontera. Detener un trabajo no mata el proceso que lo rodea: la carga de trabajo sigue viva, el motor sigue disponible para otros trabajos autorizados y lo único que se corta es la salida.
Falla en cerrado, y aún se está desplegando
Control Room está diseñado para fallar en cerrado. Si el servicio cae — por un error del sistema, porque se ha desactivado, o por lo que OpenAI llama “manipulación por parte de un actor malicioso” — todas las peticiones de inferencia se deniegan hasta que vuelva a funcionar con normalidad. La empresa dice que ese comportamiento ya está desplegado en todas las cargas de trabajo de investigación de modelos de frontera y que terminará de desplegarse en el resto de las cargas de investigación “en los próximos días”. Añade que ejecuta barridos continuos, agénticos y programáticos, para comprobar que nadie haya lanzado un motor de inferencia con Control Room desactivado.
Por qué el hueco estaba en investigación
OpenAI afirma que su pila externa de servicio de modelos ya es mucho más centralizada por naturaleza, con una capacidad operativa bien desarrollada para retirar despliegues con rapidez. El hueco estaba en investigación, y ahí, dice la empresa, es donde la necesidad es mayor.
El disparador que describe es un monitor: un segundo modelo que inspecciona lo que hace el modelo en entrenamiento y lanza una alerta. OpenAI señala un informe publicado en el que un agente usó DNS para alcanzar un chatbot externo como un caso detectado por un monitor, y detalló ese trabajo de vigilancia a finales de octubre. Si el sistema de monitorización decide que un trabajo debe pararse, envía el identificador a Control Room y la siguiente petición de inferencia se rechaza.
La cifra que hay que seguir son los 35 segundos. OpenAI la ha nombrado, la ha explicado como un efecto de la caché y se ha comprometido a eliminarla. Por ahora es el dato público más claro sobre la rapidez con la que un laboratorio de frontera puede detener sus propios modelos a mitad de ejecución.
