Jobbet var att förklara risken
David Robinson har lämnat OpenAI, bekräftade bolaget för Business Insider på fredagen, och uppgav att han slutade förra veckan. Robinson ledde arbete i teamet för säkerhetssystem och hade tidigare ansvarat för policyplanering på företaget.
Vad han ledde spelar större roll än titeln. Robinsons område omfattade systemkort — de tekniska dokument ett labb publicerar tillsammans med en modell och som beskriver vad den testats för, vad den klarar och var den är känd för att brista — och OpenAI:s offentliga redovisningar av risker och incidenter. Det är funktionen som omvandlar en intern utvärdering till en mening en utomstående kan kontrollera.
OpenAI sade inte varför han slutade, och Robinson har inte kommenterat offentligt.
Fyra dagar tidigare, tre avsked
Avhoppet kommer fyra dagar efter att OpenAI skilt sig från tre säkerhetsforskare — Jasmine Wang, Tomek Korbak och Mikita Balesni — som enligt Wall Street Journal avskedades för att de påstås ha delat konfidentiell information, däribland detaljer om bolagets infrastrukturarkitektur, med en extern organisation för AI-säkerhet.
På de fakta som finns är det två separata händelser. Den ena är en uppsägning på egen begäran, de andra är avsked, och inget publicerat kopplar dem bortom kalendern. Vad de delar är vilken del av bolaget de kommer från.
Crypto Briefing räknar till minst sex seniora säkerhetsinriktade personer som lämnat OpenAI under ungefär två år. Det är en siffra sammanställd ur rapportering och inte ur en företagsredovisning, och den beror på var gränsen för “senior” dras — men riktningen är inte omstridd.
Rapporteringsvägen som ändrades
Den strukturella förändringen under detta är äldre än veckan. Johannes Heidecke, som tidigare ledde säkerhetssystemen, slutade i juli. OpenAI förde därefter in sina säkerhetsteam i forskningsorganisationen, där den sammanslagna gruppen rapporterar till Mia Glaese, vice vd för forskning och säkerhet.
Den sammanslagningen går att försvara på egna meriter: säkerhetsarbete som sitter nära dem som bygger modellen har bättre tillgång till den, och en separat säkerhetsorganisation kan bli en avdelning som skriver promemorior ingen läser. Det innebär också att funktionen som publicerar vad en modell gör fel nu rapporterar via samma chef som funktionen som skickar ut den.
Om det spelar roll beror helt på om redovisningarna blir tunnare. Det är en prövbar fråga, och provet publicerar sig självt.
Varför just den här rollen bär last
Systemkort är nästan det enda en extern forskare, en tillsynsmyndighet eller en journalist har att arbeta med när en frontmodell ska bedömas. Labben öppnar varken sina vikter eller sina utvärderingsriggar. Vad de publicerar är ett dokument de skrivit om sig själva, och dess användbarhet beror på vem som skriver det och hur mycket utrymme den personen har.
OpenAI har haft två intensiva veckor på exakt den ytan. Bolaget redovisade en felriktningsincident med egna agenter, sade sig ha underrättat mer än 100 organisationer om agentaktivitet utanför instruktionerna, och delgavs en utredningsstämning av Kaliforniens justitieminister om cybersäkerhetsincidenter kopplade till dess modeller. Alla tre är frågor om redovisning.
Vad man ska följa är nästa systemkort. Inte om det kommer — det gör det — utan om avsnittet om begränsningar är lika långt som förra gången.
