En sikkerhedskritiker ind i det organ, der godkender lanceringer
OpenAI meddelte den 9. september, at Paul Christiano er trådt ind i bestyrelsen for OpenAI Foundation, den almennyttige fond der kontrollerer selskabet, og i dets sikkerhedsudvalg, Safety and Security Committee. Han bliver desuden observatør uden stemmeret i bestyrelsen for OpenAI Group PBC, det selskab hvor fonden ejer 26 procent efter rekapitaliseringen, der blev afsluttet i oktober 2025.
Udvalget ledes af Zico Kolter og fører tilsyn med sikkerhedsarbejdet i hele virksomheden. TechCrunch skrev, at det har det sidste ord om modellanceringer. Udnævnelsen placerer dermed en forsker, der i et årti har hævdet, at avancerede systemer kan glide ud af menneskelig kontrol, i det organ der kan holde en lancering tilbage.
En af arkitekterne bag teknikken i ChatGPT
Christiano arbejdede i OpenAI fra 2017 til 2021, hvor han ledede alignmentholdet for sprogmodeller og var med til at udvikle forstærkningslæring med menneskelig feedback, træningsmetoden der gjorde rå sprogmodeller til assistenter, som følger instruktioner. Han forlod selskabet for at grundlægge Alignment Research Center i 2021 og er i dag seniorrådgiver ved Center for AI Standards and Innovation, det evalueringsorgan for modeller, der hører under det amerikanske handelsministerium.
“Paul har været med til at definere feltet AI-alignment gennem et arbejde, der er stringent og rettet mod de sværeste spørgsmål, som stadig mere kapable systemer rejser”, sagde Bret Taylor, formand for begge bestyrelser, i selskabets meddelelse.
Det nye bestyrelsesmedlem siger, at branchen er på afveje
Christianos egen udtalelse var mindre kollegial. “AI-evnerne er gået meget hurtigt frem det seneste år, og alignment er stadig et svært teknisk problem”, sagde han. I bemærkninger refereret af TechCrunch gik han videre og sagde, at han nu mener, der “er en reel risiko for, at hurtig acceleration i AI-evner fører til et katastrofalt og uopretteligt tab af kontrol på meget kort sigt”, og at “AI-branchen generelt, OpenAI inklusive, i dag ikke er på vej til at nedbringe den risiko til et acceptabelt niveau”. Han pegede især på praksis med at lade AI-systemer træne deres efterfølgere.
Han træder ind i den samme uge, hvor to Anthropic-forskere er gået ud med den samme bekymring, og den ene har sagt op på grund af den. Forskellen er, at Christiano fører argumentet indefra et bestyrelseslokale og ikke på vej ud af et.
En statslig rådgiver inde i det selskab, hans myndighed vurderer
Christiano beholder sin rolle ved Center for AI Standards and Innovation og vil dér holde sig fra alle OpenAI-relaterede sager og fra modelevalueringer. Konstruktionen sætter alligevel en fungerende rådgiver for den amerikanske stats evalueringsorgan i bestyrelsen for et selskab, hvis modeller samme organ tester, og TechCrunch skrev, at dobbeltrollen har rejst spørgsmål om branchens indflydelse på AI-politikken.
Det, der er værd at følge, er, om udvalgets erklærede myndighed nogensinde bliver brugt synligt. Christiano har offentligt sagt, at OpenAI ikke gør nok; prøven bliver, hvad der sker første gang den holdning støder sammen med en lanceringsdato.
