O trabalho era explicar o risco
David Robinson saiu da OpenAI, confirmou a empresa à Business Insider na sexta-feira, dizendo que ele partiu na semana passada. Robinson liderava trabalho na equipa de Safety Systems e antes tinha dirigido o planeamento de políticas na empresa.
O que ele dirigia importa mais do que o cargo. O âmbito de Robinson abrangia os cartões de sistema — os documentos técnicos que um laboratório publica ao lado de um modelo a descrever para que foi testado, o que consegue fazer e onde se sabe que falha — e as divulgações públicas da OpenAI sobre riscos e incidentes. É a função que converte uma avaliação interna numa frase que alguém de fora pode verificar.
A OpenAI não disse por que razão ele saiu, e Robinson não comentou publicamente.
Quatro dias antes, três despedimentos
A saída surge quatro dias depois de a OpenAI se ter separado de três investigadores de segurança — Jasmine Wang, Tomek Korbak e Mikita Balesni — que, segundo o Wall Street Journal, foram despedidos por alegadamente terem partilhado informação confidencial, incluindo pormenores da arquitetura de infraestrutura da empresa, com uma organização externa de segurança em IA.
Com os factos disponíveis, são dois acontecimentos separados. Um é uma demissão, os outros são despedimentos, e nada publicado os liga para além do calendário. O que partilham é a parte da empresa de onde vieram.
A Crypto Briefing contabiliza pelo menos seis figuras seniores ligadas à segurança que saíram da OpenAI em cerca de dois anos. É um número reunido a partir de notícias e não de uma divulgação da empresa, e depende de onde se traça a linha do “sénior” — mas a direção não está em disputa.
A linha hierárquica que mudou
A mudança estrutural por baixo disto é mais antiga do que a semana. Johannes Heidecke, que antes chefiava os sistemas de segurança, saiu em julho. A OpenAI integrou depois as equipas de segurança na organização de investigação, com o grupo resultante a reportar a Mia Glaese, vice-presidente de Investigação e Segurança.
Essa consolidação defende-se nos seus próprios termos: trabalho de segurança sentado ao lado de quem constrói o modelo tem melhor acesso a ele, e uma organização de segurança separada pode tornar-se um departamento que escreve memorandos que ninguém lê. Significa também que a função que publica aquilo em que um modelo erra reporta agora pela mesma via que a função que o lança.
Se isso importa depende inteiramente de as divulgações emagrecerem ou não. É uma pergunta testável, e o teste publica-se sozinho.
Porque é que este cargo em concreto aguenta peso
Os cartões de sistema são quase a única coisa com que um investigador externo, um regulador ou um jornalista pode trabalhar ao avaliar um modelo de fronteira. Os laboratórios não abrem os seus pesos nem os seus arneses de avaliação. O que publicam é um documento que escreveram sobre si próprios, e a sua utilidade depende de quem o escreve e de quanta margem tem.
A OpenAI teve duas semanas cheias exatamente nessa superfície. Revelou um incidente de desalinhamento com agentes seus, disse ter notificado mais de cem organizações sobre atividade de agentes fora das instruções, e foi notificada com uma intimação de investigação pelo procurador-geral da Califórnia a propósito de incidentes de cibersegurança ligados aos seus modelos. As três são questões de divulgação.
O que há para observar é o próximo cartão de sistema. Não se aparece — vai aparecer — mas se a secção das limitações é tão longa como a anterior.
