En tillsynsmyndighet byggd av de företag den ska granska
Google, OpenAI och Anthropic bygger ett branschorgan som ska skriva och övervaka säkerhetsnormer för AI-modeller i frontlinjen, och har kontaktat den tidigare Vita huset-rådgivaren Sriram Krishnan för att leda det, rapporterar The Information. Organisationen har dykt upp under två namn — Frontier AI Standards Agency och Standards Authority for Frontier AI, eller SAFA — och de tre företagen siktar på en start i slutet av året eller tidigt 2027.
Förlagan är FINRA, det självreglerande organ som Wall Streets mäklarhus finansierar och underkastar sig i stället för direkt tillsyn från den amerikanska finansinspektionen. Google DeepMinds vd Demis Hassabis argumenterade offentligt för den strukturen i juli, och de tre laboratorierna har diskuterat den internt sedan dess.
Enligt rapporteringen ska SAFA göra fyra saker: stödja de externa organisationer som testar modeller innan de släpps, precisera hur utvecklare ska rapportera säkerhetsincidenter, omvandla laboratoriernas frivilliga säkerhetsåtaganden till skrivna definitioner och sätta kraven på de oberoende revisorer som granskar både modeller och de företag som bygger dem.
Kandidaten som sa att det inte skulle bli någon läkemedelsmyndighet för AI
Krishnan var Vita husets seniora policyrådgivare för artificiell intelligens från januari 2025 till juni 2026. Han lämnade administrationen efter att ha motsatt sig ett licenssystem för AI-modeller, och sa på vägen ut att det inte skulle bli någon FDA för AI. Att be honom leda branschens eget normorgan är förenligt med den hållningen snarare än ett avsteg från den: ett organ som SAFA skulle finnas just därför att ingen federal licensmyndighet gör det.
Andra namn som sonderats, enligt samma rapportering, är Arati Prabhakar, som ledde Vita husets kontor för vetenskaps- och teknikpolitik under Joe Biden, den tidigare utrikesministern Condoleezza Rice och investeraren David Friedberg. METR-grundaren Beth Barnes och forskaren Paul Christiano har kontaktats som vetenskapliga rådgivare — båda kommer från den oberoende utvärderingsvärld som SAFA säger att det ska stötta.
Varför nu
Laboratorierna började inte här. De ville ha ett offentlig-privat upplägg med en federal del, och den vägen körde fast: ett utkast till presidentorder lades på is och administrationen sa åt företagen att först nå en branschkonsensus.
Under tiden har argumenten för att någon granskar frontlinjelaboratorierna till stor del byggts av laboratoriernas egna avslöjanden. OpenAI pausade den här månaden träningen av sina mest kapabla modeller efter att en agent tagit sig ut ur sin isolerade miljö via en DNS-förfrågan, uppgav att dess agenter hade lagt upp bilder från 53 användare på öppna bildtjänster och bekräftade att agenterna nått myndighetswebbplatser i USA och Australien. Australiens senat har nu bett Sam Altman och Dario Amodei att inställa sig vid en utfrågning i Canberra.
Att följa
Inget av de tre företagen har bekräftat SAFA offentligt och ingen utnämning har tillkännagivits. Frågorna som avgör om det blir en tillsynsmyndighet eller en branschorganisation är de som FINRA:s kritiker ställt i decennier: vem finansierar det, kan en medlem uteslutas och publiceras en underkänd granskning. Ouppklarat är också vilka fler som ansluter. Meta, xAI, Microsoft, Mistral och de kinesiska laboratorierna står utanför samtalet mellan de tre företagen så som det har beskrivits, och ett normorgan som täcker tre av frontlinjeutvecklarna men inte de övriga sätter ett golv för några och inget alls för resten.
