Jobben var å forklare risikoen
David Robinson har forlatt OpenAI, bekreftet selskapet overfor Business Insider fredag, og opplyste at han sluttet forrige uke. Robinson ledet arbeid i teamet for sikkerhetssystemer og hadde tidligere hatt ansvar for policyplanlegging i selskapet.
Hva han ledet betyr mer enn tittelen. Robinsons område dekket systemkort — de tekniske dokumentene et laboratorium publiserer ved siden av en modell, og som beskriver hva den er testet for, hva den kan og hvor den er kjent for å svikte — og OpenAIs offentlige redegjørelser om risiko og hendelser. Det er funksjonen som gjør en intern evaluering om til en setning en utenforstående kan kontrollere.
OpenAI sa ikke hvorfor han sluttet, og Robinson har ikke kommentert offentlig.
Fire dager tidligere, tre oppsigelser
Avgangen kommer fire dager etter at OpenAI skilte lag med tre sikkerhetsforskere — Jasmine Wang, Tomek Korbak og Mikita Balesni — som ifølge Wall Street Journal ble sagt opp for angivelig å ha delt fortrolig informasjon, blant annet detaljer om selskapets infrastrukturarkitektur, med en ekstern organisasjon for KI-sikkerhet.
Med de fakta som foreligger er dette to atskilte hendelser. Den ene er en oppsigelse fra egen side, de andre er avskjedigelser, og ingenting publisert knytter dem sammen utover kalenderen. Det de deler, er hvilken del av selskapet de kommer fra.
Crypto Briefing teller minst seks seniorprofiler med sikkerhetsansvar som har forlatt OpenAI i løpet av omtrent to år. Det er et tall satt sammen fra pressedekning og ikke fra en selskapsredegjørelse, og det avhenger av hvor grensen for “senior” trekkes — men retningen er ikke omstridt.
Rapporteringslinjen som ble endret
Den strukturelle endringen under dette er eldre enn uken. Johannes Heidecke, som tidligere ledet sikkerhetssystemene, sluttet i juli. OpenAI la deretter sikkerhetsteamene inn i forskningsorganisasjonen, der den sammenslåtte gruppen rapporterer til Mia Glaese, visepresident for forskning og sikkerhet.
Den sammenslåingen kan forsvares på egne premisser: sikkerhetsarbeid som sitter ved siden av dem som bygger modellen, har bedre tilgang til den, og en egen sikkerhetsorganisasjon kan bli en avdeling som skriver notater ingen leser. Det betyr også at funksjonen som publiserer hva en modell gjør feil, nå rapporterer gjennom den samme lederen som funksjonen som sender den ut.
Om det betyr noe, avhenger helt av om redegjørelsene blir tynnere. Det er et testbart spørsmål, og testen publiserer seg selv.
Hvorfor akkurat denne rollen bærer last
Systemkort er omtrent det eneste en ekstern forsker, en tilsynsmyndighet eller en journalist har å arbeide med når en frontmodell skal vurderes. Laboratoriene åpner verken vektene eller evalueringsriggene sine. Det de publiserer er et dokument de har skrevet om seg selv, og nytten av det avhenger av hvem som skriver det og hvor mye rom vedkommende har.
OpenAI har hatt to travle uker på nøyaktig denne flaten. Selskapet redegjorde for en feilrettingshendelse med egne agenter, sa det hadde varslet mer enn hundre organisasjoner om agentaktivitet utenfor instruksjonene, og ble forkynt en etterforskningsstevning av Californias justisminister om cybersikkerhetshendelser knyttet til modellene. Alle tre er spørsmål om åpenhet.
Det man bør følge med på, er neste systemkort. Ikke om det kommer — det gjør det — men om avsnittet om begrensninger er like langt som sist.
