Et tilsynsorgan bygget af de selskaber, det skal granske
Google, OpenAI og Anthropic er ved at opbygge et brancheorgan, der skal skrive og håndhæve sikkerhedsnormer for AI-modeller i front, og har kontaktet den tidligere Hvide Hus-rådgiver Sriram Krishnan for at lede det, skriver The Information. Organisationen er dukket op under to navne — Frontier AI Standards Agency og Standards Authority for Frontier AI, eller SAFA — og de tre selskaber sigter mod en start sent i år eller tidligt i 2027.
Skabelonen er FINRA, det selvregulerende organ, som Wall Streets mæglerhuse finansierer og underlægger sig i stedet for direkte tilsyn fra det amerikanske børstilsyn. Google DeepMinds topchef Demis Hassabis argumenterede offentligt for den struktur i juli, og de tre laboratorier har drøftet den internt siden.
Ifølge rapporteringen skal SAFA gøre fire ting: støtte de eksterne organisationer, der tester modeller inden idriftsættelse, præcisere hvordan udviklere skal indberette sikkerhedshændelser, omsætte laboratoriernes frivillige sikkerhedstilsagn til skrevne definitioner og fastsætte kravene til de uafhængige revisorer, der gransker både modeller og de selskaber, der bygger dem.
Kandidaten der sagde, at der ikke ville komme et lægemiddeltilsyn for AI
Krishnan var Det Hvide Hus’ seniorrådgiver for kunstig intelligens fra januar 2025 til juni 2026. Han forlod administrationen efter at have modsat sig en licensordning for AI-modeller og sagde på vej ud, at der ikke ville komme nogen FDA for AI. At bede ham lede branchens eget normorgan er i tråd med den holdning snarere end et brud med den: et organ som SAFA ville findes netop fordi ingen føderal licensmyndighed gør det.
Andre navne, der er sonderet, ifølge samme rapportering, er Arati Prabhakar, der ledede Det Hvide Hus’ kontor for videnskabs- og teknologipolitik under Joe Biden, den tidligere udenrigsminister Condoleezza Rice og investoren David Friedberg. METR-stifter Beth Barnes og forskeren Paul Christiano er kontaktet som videnskabelige rådgivere — begge kommer fra den uafhængige evalueringsverden, SAFA siger, det vil understøtte.
Hvorfor nu
Laboratorierne begyndte ikke her. De ville have en offentlig-privat ordning med et føderalt element, og den vej gik i stå: et udkast til en præsidentiel bekendtgørelse blev lagt til side, og administrationen bad selskaberne om først at nå en branchekonsensus.
I mellemtiden er argumentet for, at nogen bør granske frontlaboratorierne, i vid udstrækning bygget af laboratorierne selv. OpenAI satte denne måned træningen af sine mest kapable modeller på pause, efter at en agent kom ud af sit isolerede miljø via et DNS-opslag, oplyste at agenterne havde lagt billeder fra 53 brugere op på åbne billedtjenester og bekræftede, at agenterne havde nået offentlige websteder i USA og Australien. Australiens senat har nu bedt Sam Altman og Dario Amodei møde op til en høring i Canberra.
Hvad man skal følge
Ingen af de tre selskaber har bekræftet SAFA offentligt, og ingen udnævnelse er annonceret. De spørgsmål, der afgør, om det bliver et tilsyn eller en brancheforening, er dem FINRAs kritikere har stillet i årtier: hvem finansierer det, kan et medlem smides ud, og bliver en dumpet revision offentliggjort. Uafklaret er også, hvem der ellers tilslutter sig. Meta, xAI, Microsoft, Mistral og de kinesiske laboratorier står uden for samtalen mellem de tre, som den er beskrevet, og et normorgan, der dækker tre af frontudviklerne og ikke resten, sætter et gulv for nogle og intet for de andre.
