En säkerhetskritiker in i organet som godkänner lanseringar
OpenAI meddelade den 9 september att Paul Christiano har gått in i styrelsen för OpenAI Foundation, den ideella stiftelse som kontrollerar bolaget, och i dess säkerhetskommitté, Safety and Security Committee. Han blir också observatör utan rösträtt i styrelsen för OpenAI Group PBC, det vinstdrivande bolag där stiftelsen äger 26 procent efter rekapitaliseringen som slutfördes i oktober 2025.
Kommittén leds av Zico Kolter och granskar säkerhetsarbetet i hela företaget. TechCrunch rapporterade att den har sista ordet om modellanseringar. Utnämningen placerar därmed en forskare som i ett decennium har hävdat att avancerade system kan glida ur mänsklig kontroll i det organ som kan hålla tillbaka en lansering.
En av arkitekterna bakom tekniken i ChatGPT
Christiano arbetade på OpenAI mellan 2017 och 2021, där han ledde alignmentteamet för språkmodeller och var med och utvecklade förstärkningsinlärning med mänsklig återkoppling, träningsmetoden som gjorde råa språkmodeller till assistenter som följer instruktioner. Han lämnade för att grunda Alignment Research Center 2021 och är i dag senior teknisk rådgivare vid Center for AI Standards and Innovation, det utvärderingsorgan för modeller som ligger under USA:s handelsdepartement.
“Paul har varit med och definierat fältet AI-alignment genom arbete som är stringent och inriktat på de svåraste frågor som allt mer kapabla system ställer”, sade Bret Taylor, ordförande i båda styrelserna, i bolagets meddelande.
Den nya ledamoten säger att branschen är fel ute
Christianos eget uttalande var mindre kollegialt. “AI-förmågorna har gått framåt mycket snabbt det senaste året och alignment är fortfarande ett svårt tekniskt problem”, sade han. I kommentarer som TechCrunch återger gick han längre och sade att han nu tror att “det finns en påtaglig risk att en snabb acceleration av AI-förmågor leder till en katastrofal och oåterkallelig förlust av kontroll inom mycket kort tid” och att “AI-branschen i allmänhet, OpenAI inräknat, i dag inte är på väg att minska den risken till en acceptabel nivå”. Han pekade särskilt ut bruket att låta AI-system träna sina efterföljare.
Han kommer in samma vecka som två Anthropic-forskare gått ut med samma oro, varav en sagt upp sig över den. Skillnaden är att Christiano för argumentet inifrån ett styrelserum i stället för på väg ut ur ett.
En statlig rådgivare inne i bolaget hans myndighet granskar
Christiano behåller sitt uppdrag vid Center for AI Standards and Innovation och kommer där att avstå från alla OpenAI-relaterade ärenden och från modellutvärderingar. Upplägget sätter ändå en tjänstgörande rådgivare till den amerikanska statens utvärderingsorgan i styrelsen för ett bolag vars modeller samma organ testar, och TechCrunch rapporterade att dubbelrollen har väckt frågor om branschens inflytande över AI-politiken.
Det som är värt att följa är om kommitténs uttalade befogenhet någonsin används synligt. Christiano har offentligt sagt att OpenAI inte gör tillräckligt; provet blir vad som händer första gången den uppfattningen krockar med ett lanseringsdatum.
