En sikkerhetskritiker inn i organet som godkjenner lanseringer
OpenAI meldte 9. september at Paul Christiano har gått inn i styret for OpenAI Foundation, den ideelle stiftelsen som kontrollerer selskapet, og i sikkerhetskomiteen Safety and Security Committee. Han blir også observatør uten stemmerett i styret for OpenAI Group PBC, selskapet der stiftelsen eier 26 prosent etter rekapitaliseringen som ble sluttført i oktober 2025.
Komiteen ledes av Zico Kolter og fører tilsyn med sikkerhetsarbeidet i hele selskapet. TechCrunch omtalte at den har siste ord om modellanseringer. Utnevnelsen plasserer dermed en forsker som i ti år har hevdet at avanserte systemer kan gli ut av menneskelig kontroll, i organet som kan holde igjen en lansering.
En av arkitektene bak teknikken i ChatGPT
Christiano arbeidet i OpenAI fra 2017 til 2021, der han ledet alignmentteamet for språkmodeller og var med på å utvikle forsterkningslæring med menneskelig tilbakemelding, treningsmetoden som gjorde rå språkmodeller til assistenter som følger instruksjoner. Han sluttet for å grunnlegge Alignment Research Center i 2021 og er i dag seniorrådgiver ved Center for AI Standards and Innovation, evalueringsorganet for modeller som ligger under det amerikanske handelsdepartementet.
“Paul har vært med på å definere feltet KI-alignment gjennom arbeid som er stringent og rettet mot de vanskeligste spørsmålene stadig mer kapable systemer reiser”, sa Bret Taylor, styreleder i begge styrene, i selskapets kunngjøring.
Det nye styremedlemmet sier bransjen er på feil kurs
Christianos egen uttalelse var mindre kollegial. “KI-evnene har gått svært raskt fram det siste året, og alignment er fortsatt et vanskelig teknisk problem”, sa han. I kommentarer gjengitt av TechCrunch gikk han lenger og sa at han nå mener det “finnes en reell risiko for at rask akselerasjon i KI-evner fører til et katastrofalt og uopprettelig tap av kontroll på svært kort sikt”, og at “KI-bransjen generelt, OpenAI inkludert, i dag ikke er på vei til å redusere den risikoen til et akseptabelt nivå”. Han pekte særlig på praksisen med å la KI-systemer trene sine etterfølgere.
Han kommer inn i den samme uken som to Anthropic-forskere har gått ut med den samme bekymringen, og én av dem har sagt opp på grunn av den. Forskjellen er at Christiano fører argumentet fra innsiden av et styrerom, ikke på vei ut av ett.
En statlig rådgiver inne i selskapet hans etat vurderer
Christiano beholder rollen ved Center for AI Standards and Innovation og vil der holde seg unna alle OpenAI-relaterte saker og alle modellevalueringer. Ordningen setter likevel en fungerende rådgiver for det amerikanske statlige evalueringsorganet i styret til et selskap hvis modeller det samme organet tester, og TechCrunch omtalte at dobbeltrollen har reist spørsmål om industriens innflytelse over KI-politikken.
Det som er verdt å følge, er om komiteens uttalte myndighet noen gang blir brukt synlig. Christiano har offentlig sagt at OpenAI ikke gjør nok; prøven blir hva som skjer første gang det synet kolliderer med en lanseringsdato.
