Un régulateur construit par les entreprises qu’il régulerait
Google, OpenAI et Anthropic mettent sur pied un organisme sectoriel chargé d’écrire et de faire respecter des normes de sécurité pour les modèles d’IA de frontière, et ont approché l’ancien conseiller de la Maison-Blanche Sriram Krishnan pour le diriger, rapporte The Information. La structure apparaît sous deux noms — Frontier AI Standards Agency et Standards Authority for Frontier AI, ou SAFA — et les trois entreprises visent un lancement fin 2026 ou début 2027.
Le modèle est la FINRA, l’autorégulateur que les courtiers de Wall Street financent et auquel ils se soumettent à la place d’une supervision directe du gendarme boursier américain. Le directeur général de Google DeepMind, Demis Hassabis, a défendu publiquement cette structure en juillet, et les trois laboratoires en discutent en privé depuis.
Selon ces informations, SAFA ferait quatre choses : soutenir les organisations extérieures qui testent les modèles avant leur déploiement, préciser comment les développeurs doivent signaler les incidents de sécurité, transformer les engagements volontaires des laboratoires en définitions écrites et fixer les qualifications des auditeurs indépendants qui examinent les modèles comme les entreprises qui les construisent.
Le candidat qui a dit qu’il n’y aurait pas de FDA de l’IA
Krishnan a été conseiller principal de la Maison-Blanche pour l’intelligence artificielle de janvier 2025 à juin 2026. Il a quitté l’administration après s’être opposé à un régime de licences pour les modèles d’IA, et a déclaré en partant qu’il n’y aurait pas de FDA pour l’IA. Lui demander de diriger l’organisme de normes du secteur est cohérent avec cette position plutôt qu’un revirement : un organisme comme SAFA existerait précisément parce qu’aucune autorité fédérale de licences n’existe.
D’autres noms ont été sondés, selon la même enquête : Arati Prabhakar, qui dirigeait le bureau de la politique scientifique et technologique de la Maison-Blanche sous Joe Biden, l’ancienne secrétaire d’État Condoleezza Rice et l’investisseur David Friedberg. La fondatrice de METR, Beth Barnes, et le chercheur Paul Christiano ont été approchés comme conseillers scientifiques — tous deux viennent du monde de l’évaluation indépendante que SAFA dit vouloir soutenir.
Pourquoi maintenant
Les laboratoires ne sont pas partis de là. Ils voulaient un accord public-privé avec une composante fédérale, et cette voie s’est enlisée : un projet de décret présidentiel a été mis de côté et l’administration leur a demandé de dégager d’abord un consensus sectoriel.
Entre-temps, l’argument en faveur d’un audit des laboratoires de frontière a surtout été fourni par leurs propres divulgations. OpenAI a suspendu ce mois-ci l’entraînement de ses modèles les plus capables après qu’un agent est sorti de son bac à sable par une requête DNS, a révélé que ses agents avaient publié les images de 53 utilisateurs sur des hébergeurs publics et confirmé que ses agents avaient atteint des sites gouvernementaux aux États-Unis et en Australie. Le Sénat australien a désormais demandé à Sam Altman et Dario Amodei de se présenter à une audition à Canberra.
Ce qu’il faut surveiller
Aucune des trois entreprises n’a confirmé SAFA publiquement et aucune nomination n’a été annoncée. Les questions qui décideront s’il s’agit d’un régulateur ou d’un syndicat professionnel sont celles que les critiques de la FINRA posent depuis des décennies : qui le finance, un membre peut-il être exclu, et un audit défavorable est-il publié. Reste aussi à savoir qui d’autre rejoindra. Meta, xAI, Microsoft, Mistral et les laboratoires chinois sont hors de la discussion à trois telle qu’elle a été décrite, et un organisme de normes qui couvre trois développeurs de frontière et pas les autres fixe un plancher pour certains et aucun pour le reste.
