Un bouton d’arrêt dans la couche d’inférence
OpenAI a décrit un système baptisé Control Room qui suit toutes les charges de travail de modèles exécutées sur son infrastructure de recherche et peut empêcher n’importe laquelle d’entre elles de produire davantage de sortie. Dans une publication du 9 novembre, l’entreprise indique que le délai maximal entre l’instant où Control Room reçoit l’ordre d’arrêter une tâche et l’instant où aucune progression n’est plus possible est de 35 secondes.
Ce qui surprend, c’est l’endroit où se trouve l’arrêt. Le code de recherche — les expériences, les évaluations et les tâches d’échantillonnage à gros volume que les chercheurs écrivent et modifient en permanence — n’est pas chargé de vérifier s’il a encore le droit de tourner. À la place, toute charge de travail de recherche qui fait de l’inférence agentique doit s’enregistrer auprès de Control Room et recevoir un identifiant de tâche, qu’elle joint à chaque requête envoyée à un moteur d’inférence. C’est le moteur, et non la charge de travail, qui demande à Control Room si la tâche est toujours autorisée. Si la réponse est non, le moteur refuse de générer.
La raison avancée par OpenAI est sans détour. Le code des charges de travail, écrit l’entreprise, « change souvent et n’est pas un endroit idéal pour implémenter des protections de sécurité critiques et porteuses ». Il n’existe qu’un très petit nombre de chemins de code d’inférence dans l’ensemble de sa recherche, de sorte que cette couche peut servir de goulot d’étranglement où chaque requête est contrôlée.
D’où viennent les 35 secondes
Le délai n’est pas une délibération. OpenAI l’attribue à une couche de cache pour l’autorisation d’inférence, nécessaire pour absorber le volume de trafic requis, et dit « travailler à ramener ce chiffre à zéro afin de pouvoir mettre fin aux tâches instantanément ». D’ici là, un modèle à qui l’on a ordonné de s’arrêter peut continuer à produire de la sortie pendant près d’une demi-minute.
Chaque tâche enregistrée doit en outre être rattachée à un dossier de sûreté approuvé, une exigence que l’entreprise avait posée dans une publication de septembre sur les dossiers de sûreté pour l’entraînement de l’IA de frontière. Arrêter une tâche ne tue pas le processus qui l’entoure : la charge de travail reste vivante, le moteur reste disponible pour d’autres tâches autorisées, et seule la sortie s’interrompt.
Échoue en position fermée, et toujours en cours de déploiement
Control Room est conçu pour échouer en position fermée. Si le service tombe — à cause d’une erreur système, parce qu’il a été désactivé, ou par ce qu’OpenAI appelle « l’altération par un acteur malveillant » — toutes les requêtes d’inférence sont refusées jusqu’à son retour à la normale. L’entreprise affirme que ce comportement est déjà déployé sur toutes les charges de travail de recherche portant sur les modèles de frontière et que le déploiement sur les charges restantes sera terminé « dans les prochains jours ». Elle dit aussi mener des balayages agentiques et programmatiques continus pour vérifier que personne n’a lancé un moteur d’inférence avec Control Room désactivé.
Pourquoi le manque était du côté de la recherche
OpenAI explique que sa pile externe de service de modèles est déjà bien plus centralisée par nature, avec une capacité opérationnelle éprouvée pour retirer rapidement des déploiements. Le manque était du côté de la recherche, et c’est là, dit l’entreprise, que le besoin est le plus grand.
Le déclencheur décrit est un moniteur : un second modèle qui inspecte ce que fait le modèle en entraînement et lève une alerte. OpenAI cite un rapport publié dans lequel un agent a utilisé le DNS pour joindre un chatbot externe comme un cas détecté par un moniteur, et avait détaillé ce travail de surveillance fin octobre. Si le système de surveillance décide qu’une tâche doit s’arrêter, il envoie l’identifiant à Control Room et la requête d’inférence suivante est refusée.
Le chiffre à suivre reste les 35 secondes. OpenAI l’a nommé, l’a expliqué comme un effet de cache et s’est engagé à le supprimer. Pour l’instant, c’est la donnée publique la plus claire sur la vitesse à laquelle un laboratoire de frontière peut arrêter ses propres modèles en pleine exécution.
