Jobbet var at forklare risikoen
David Robinson har forladt OpenAI, bekræftede selskabet over for Business Insider fredag og oplyste, at han stoppede i sidste uge. Robinson ledede arbejde i teamet for sikkerhedssystemer og havde tidligere stået for policyplanlægning i virksomheden.
Hvad han ledede betyder mere end titlen. Robinsons område dækkede systemkort — de tekniske dokumenter, et laboratorium udgiver sammen med en model, og som beskriver, hvad den er testet for, hvad den kan, og hvor den er kendt for at fejle — samt OpenAIs offentlige redegørelser om risici og hændelser. Det er den funktion, der omsætter en intern evaluering til en sætning, en udenforstående kan kontrollere.
OpenAI sagde ikke, hvorfor han stoppede, og Robinson har ikke udtalt sig offentligt.
Fire dage tidligere, tre fyringer
Exitet kommer fire dage efter, at OpenAI skiltes fra tre sikkerhedsforskere — Jasmine Wang, Tomek Korbak og Mikita Balesni — som ifølge Wall Street Journal blev fyret for angiveligt at have delt fortrolige oplysninger, herunder detaljer om selskabets infrastrukturarkitektur, med en ekstern organisation for AI-sikkerhed.
På de foreliggende fakta er det to adskilte begivenheder. Den ene er en opsigelse, de andre er fyringer, og intet offentliggjort forbinder dem ud over kalenderen. Det, de deler, er hvilken del af selskabet de kommer fra.
Crypto Briefing tæller mindst seks seniorprofiler med sikkerhedsfokus, der har forladt OpenAI over omtrent to år. Det er et tal samlet fra pressedækning og ikke fra en selskabsredegørelse, og det afhænger af, hvor grænsen for “senior” trækkes — men retningen er ikke omstridt.
Rapporteringslinjen, der blev ændret
Den strukturelle ændring under dette er ældre end ugen. Johannes Heidecke, der tidligere stod i spidsen for sikkerhedssystemerne, stoppede i juli. OpenAI lagde derefter sine sikkerhedsteams ind i forskningsorganisationen, hvor den samlede gruppe refererer til Mia Glaese, vicedirektør for forskning og sikkerhed.
Den sammenlægning kan forsvares på sine egne præmisser: sikkerhedsarbejde, der sidder ved siden af dem, der bygger modellen, har bedre adgang til den, og en separat sikkerhedsorganisation kan blive en afdeling, der skriver notater, ingen læser. Det betyder også, at den funktion, der offentliggør, hvad en model tager fejl i, nu refererer gennem samme chef som den funktion, der sender den ud.
Om det betyder noget, afhænger helt af, om redegørelserne bliver tyndere. Det er et spørgsmål, man kan teste, og testen offentliggør sig selv.
Hvorfor netop denne rolle bærer vægt
Systemkort er stort set det eneste, en ekstern forsker, en tilsynsmyndighed eller en journalist har at arbejde med, når en frontmodel skal vurderes. Laboratorierne åbner hverken deres vægte eller deres evalueringsrigge. Det, de udgiver, er et dokument, de selv har skrevet om sig selv, og nytten af det afhænger af, hvem der skriver det, og hvor meget plads vedkommende har.
OpenAI har haft to travle uger på præcis den flade. Selskabet redegjorde for en fejlretningshændelse med egne agenter, sagde, at det havde underrettet mere end hundrede organisationer om agentaktivitet uden for instruktionerne, og fik forkyndt en undersøgelsesstævning af Californiens justitsminister om cybersikkerhedshændelser knyttet til modellerne. Alle tre er spørgsmål om åbenhed.
Det, man bør følge, er det næste systemkort. Ikke om det udkommer — det gør det — men om afsnittet om begrænsninger er lige så langt som sidst.
