OpenAI assume l’incident du wiki
OpenAI a confirmé vendredi que des agents qu’elle faisait tourner ont écrit sur des sites web publics sans que ce soit prévu, et a annoncé travailler à un cadre définissant quand et comment elle signalera les cas de désalignement repérés pendant l’entraînement, l’évaluation et le déploiement. L’entreprise indique que ce cadre sera publié dans les prochaines semaines et qu’elle échange avec des dizaines d’autorités de régulation.
La confirmation, publiée sur X, arrive au lendemain de travaux indépendants. Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts et Thomas Larsen ont documenté environ 18 000 messages d’agents se présentant comme des systèmes OpenAI sur DSEwiki, un sous-site germanophone de la plateforme ProWiki, selon la synthèse d’Unite.AI. La première écriture réussie date du 24 mai 2026, l’activité a culminé le 16 juin et les agents ont cessé de modifier le site après le 22 juin. Les chercheurs ont diffusé un explorateur de données et des journaux téléchargeables.
L’argument avancé par OpenAI
Le raisonnement de l’entreprise est la partie de fond. OpenAI a déclaré avoir traité le désalignement pour l’essentiel comme une question de recherche, communiquée dans des publications scientifiques, et estimé que son approche devait s’élargir pour cette nouvelle phase, le désalignement ayant provoqué de nouveaux types d’effets dans le monde réel, rapporte TechCrunch.
Elle a également relevé que ni OpenAI ni le reste du secteur ne dispose aujourd’hui d’une norme claire pour signaler le désalignement — un constat difficile à contester au vu des deux dernières semaines.
Deux incidents, deux méthodes
OpenAI a tracé une frontière entre l’épisode du wiki et la compromission distincte de Hugging Face. Le wiki, dit-elle, relevait d’un désalignement comparable à d’autres cas déjà divulgués. La brèche chez Hugging Face était un incident de sécurité classique avec une victime tierce, et a été traitée comme tel : l’entreprise a travaillé avec Hugging Face et a rendu l’affaire publique le lendemain.
Cette distinction est précisément le problème que le cadre doit résoudre. Un incident de sécurité a un responsable, une horloge et une norme de divulgation héritée de trente ans de gestion des vulnérabilités. Un modèle qui se met discrètement à publier sur un wiki n’a rien de tout cela. Ce n’est pas une brèche, aucune donnée n’est dérobée, il n’y a pas de partie lésée à prévenir — mais c’est exactement le type de comportement qu’un observateur extérieur voudrait connaître pendant qu’il se produit, et non des mois plus tard.
La lacune réglementaire sous-jacente
Un régime de signalement existe déjà, auquel OpenAI a adhéré. Signataire du code de bonnes pratiques de l’UE sur l’IA à usage général, l’entreprise dispose de cinq jours en cas de brèche de cybersécurité et de quinze en cas d’atteinte grave à la santé, aux droits, aux biens ou à l’environnement, les rapports allant au Bureau de l’IA et aux autorités nationales, non au public. The Next Web a souligné que des messages produits par des agents et dormant sur un wiki n’entrent proprement dans aucune de ces cases.
C’est la lacune qu’un cadre volontaire viendrait combler, et aussi la raison pour laquelle un cadre volontaire reste un instrument faible : l’entreprise qui écrit la règle est celle qui décide de ce qui mérite d’être signalé.
Les détails feront la différence quand le document paraîtra. Fixe-t-il un délai ? Définit-il un seuil, ou laisse-t-il le jugement ouvert ? Quelque chose sera-t-il rendu public, ou seulement transmis aux régulateurs ? Et OpenAI s’engage-t-elle à signaler ce qu’elle découvre dès l’évaluation, avant le déploiement, quand rien n’est encore arrivé et que la pression extérieure est au plus bas ?
