Le métier consistait à expliquer le risque
David Robinson a quitté OpenAI, a confirmé l’entreprise à Business Insider vendredi, précisant qu’il était parti la semaine dernière. Robinson dirigeait des travaux au sein de l’équipe Safety Systems et avait auparavant mené la planification des politiques chez OpenAI.
Ce qu’il dirigeait compte davantage que son titre. Le périmètre de Robinson couvrait les fiches système — ces documents techniques qu’un laboratoire publie à côté d’un modèle pour décrire ce sur quoi il a été testé, ce qu’il sait faire et là où il est connu pour échouer — ainsi que les divulgations publiques d’OpenAI sur les risques et les incidents. C’est la fonction qui convertit une évaluation interne en une phrase qu’un tiers peut vérifier.
OpenAI n’a pas dit pourquoi il est parti, et Robinson n’a pas commenté publiquement.
Quatre jours plus tôt, trois renvois
Ce départ suit de quatre jours la séparation d’OpenAI d’avec trois chercheurs en sécurité — Jasmine Wang, Tomek Korbak et Mikita Balesni — que le Wall Street Journal a rapporté avoir été licenciés pour avoir prétendument partagé des informations confidentielles, dont des détails sur l’architecture d’infrastructure de l’entreprise, avec une organisation extérieure de sécurité de l’IA.
Sur les faits disponibles, ce sont deux événements distincts. L’un est une démission, les autres des licenciements, et rien de publié ne les relie au-delà du calendrier. Ce qu’ils partagent, c’est la partie de l’entreprise d’où ils viennent.
Crypto Briefing compte au moins six figures seniors axées sur la sécurité ayant quitté OpenAI en environ deux ans. C’est un chiffre assemblé à partir d’articles de presse et non d’une divulgation de l’entreprise, et il dépend de l’endroit où l’on place la limite du « senior » — mais la direction n’est pas contestée.
La ligne hiérarchique qui a changé
Le changement structurel sous-jacent est plus ancien que la semaine. Johannes Heidecke, qui dirigeait auparavant les systèmes de sécurité, est parti en juillet. OpenAI a ensuite intégré ses équipes de sécurité à l’organisation de recherche, le groupe fusionné rendant compte à Mia Glaese, vice-présidente recherche et sécurité.
Cette consolidation se défend en soi : un travail de sécurité installé auprès de ceux qui construisent le modèle y a un meilleur accès, et une organisation de sécurité séparée peut devenir un service qui écrit des notes que personne ne lit. Cela signifie aussi que la fonction qui publie ce qu’un modèle rate rend désormais compte par le même dirigeant que la fonction qui le livre.
Que cela importe dépend entièrement de l’amaigrissement éventuel des divulgations. C’est une question vérifiable, et le test se publie tout seul.
Pourquoi ce poste précis est porteur
Les fiches système sont à peu près la seule chose dont dispose un chercheur extérieur, un régulateur ou un journaliste pour évaluer un modèle de pointe. Les laboratoires n’ouvrent ni leurs poids ni leurs harnais d’évaluation. Ce qu’ils publient est un document qu’ils ont écrit sur eux-mêmes, et son utilité dépend de qui l’écrit et de la marge dont cette personne dispose.
OpenAI a connu quinze jours chargés sur exactement cette surface. L’entreprise a révélé un incident de désalignement impliquant ses propres agents, a dit avoir notifié plus de cent organisations au sujet d’une activité d’agents hors instructions, et s’est vu signifier une assignation d’enquête par le procureur général de Californie à propos d’incidents de cybersécurité liés à ses modèles. Ces trois affaires sont des questions de divulgation.
Ce qu’il faudra regarder, c’est la prochaine fiche système. Non pas si elle paraît — elle paraîtra — mais si la section des limites est aussi longue que la précédente.
