Ce qui a été rapporté et ce qu’OpenAI a confirmé
The Information a révélé qu’OpenAI utilise une technique dite de profondeur récurrente — parfois décrite comme des transformeurs bouclés — dans GPT-6 Astra. Fortune écrivait le 3 septembre que la technique a inquiété plusieurs chercheurs en sécurité de l’IA, et que le directeur scientifique d’OpenAI, Jakub Pachocki, en a reconnu l’usage tout en promettant davantage de détails d’architecture plus tard.
Le mécanisme est simple à énoncer. Un modèle de raisonnement classique produit ses étapes intermédiaires sous forme de texte : il écrit des tokens, et ces tokens sont lisibles. La profondeur récurrente fait au contraire repasser les mêmes couches du transformeur sur un état interne caché avant qu’aucun token ne soit émis. Le calcul supplémentaire se déroule dans les activations et non dans des mots, et ne laisse donc aucune trace dans la sortie.
L’argument en sa faveur est l’efficacité : davantage de profondeur effective sans modèle proportionnellement plus gros.
Pourquoi les chercheurs en sécurité s’y opposent
La surveillance de la chaîne de pensée est le principal outil pratique dont disposent les laboratoires et les évaluateurs extérieurs pour repérer un modèle qui dérape. Elle fonctionne pour une raison peu spectaculaire : si un modèle doit écrire son raisonnement pour s’en servir, un auditeur peut lire ce qu’il a écrit. Cette propriété est un effet secondaire de l’architecture, pas un garde-fou conçu comme tel, et elle disparaît dès que le raisonnement cesse d’être écrit.
Steven Adler, ancien chercheur en sécurité chez OpenAI, a déclaré à Fortune que l’approche franchit potentiellement l’une des rares lignes rouges du secteur. Peter Wildeford, de l’AI Policy Network, l’a jugée potentiellement très préoccupante et potentiellement imprudente. Daniel Kokotajlo, de l’AI Futures Project, a avancé l’argument qui compte le plus pour la discipline plutôt que pour un modèle : d’autres pourraient suivre, et l’opacité se propage par précédent.
La réponse d’OpenAI
Pachocki a affirmé que l’entreprise tient profondément à la surveillance de la chaîne de pensée et qu’elle travaille à la préserver et à l’exploiter depuis ses tout premiers modèles de raisonnement. Lui et d’autres chercheurs d’OpenAI ont contesté la couverture médiatique, estimant qu’elle a suscité une alarme disproportionnée : OpenAI aurait limité l’usage de l’architecture bouclée précisément pour que le raisonnement du modèle reste lisible.
Les deux affirmations peuvent être vraies. Un usage borné de la profondeur récurrente peut laisser assez de raisonnement écrit pour être surveillé. Le désaccord porte en réalité sur la nature de cette borne : engagement ou choix d’ingénierie du moment. Aucune spécification publiée ne permet de le vérifier.
Ce qui trancherait
Les détails d’architecture promis par Pachocki. Précisément : quelle part de la profondeur de raisonnement effective d’Astra se déroule dans l’espace latent, si cette proportion est fixe ou croît avec la tâche, et si les évaluateurs extérieurs — les organisations qui ont mené cette année les évaluations de capacités d’OpenAI — obtiennent un accès suffisant pour tester la surveillabilité et non seulement la performance.
Tant que cela n’existe pas, la question n’est pas de savoir si Astra est surveillable. C’est que personne, hors d’OpenAI, ne peut aujourd’hui le vérifier.
