Um crítico da segurança entra no órgão que aprova os lançamentos
A OpenAI anunciou a 9 de setembro que Paul Christiano passou a integrar o conselho da Fundação OpenAI, a entidade sem fins lucrativos que controla a empresa, e o seu Comité de Segurança e Proteção. Será também observador sem direito de voto no conselho da OpenAI Group PBC, a sociedade de benefício público na qual a Fundação detém 26 por cento após a recapitalização concluída em outubro de 2025.
O comité é presidido por Zico Kolter e supervisiona as práticas de segurança em toda a empresa. O TechCrunch noticiou que tem a última palavra sobre lançamentos de modelos. A nomeação coloca assim um investigador que há uma década defende que sistemas avançados podem escapar ao controlo humano no órgão capaz de suster um lançamento.
Um dos arquitetos da técnica por trás do ChatGPT
Christiano trabalhou na OpenAI entre 2017 e 2021, onde liderou a equipa de alinhamento de modelos de linguagem e ajudou a desenvolver a aprendizagem por reforço com feedback humano, o método de treino que transformou modelos de linguagem em assistentes capazes de seguir instruções. Saiu para fundar o Alignment Research Center em 2021 e é hoje consultor técnico sénior do Center for AI Standards and Innovation, o organismo de avaliação de modelos sediado no Departamento do Comércio dos Estados Unidos.
“Paul ajudou a definir o campo do alinhamento da IA com um trabalho rigoroso e centrado nas perguntas mais difíceis colocadas por sistemas cada vez mais capazes”, afirmou Bret Taylor, presidente dos dois conselhos, no anúncio da empresa.
O novo administrador diz que o setor não vai no caminho certo
A declaração do próprio Christiano foi menos cordial. “As capacidades da IA avançaram muito depressa no último ano e o alinhamento continua a ser um problema técnico difícil”, disse. Em declarações citadas pelo TechCrunch foi mais longe: acredita agora que “existe um risco real de que a rápida aceleração das capacidades da IA conduza a uma perda de controlo catastrófica e irreversível a muito curto prazo” e que “o setor da IA em geral, incluindo a OpenAI, não está hoje a caminho de reduzir esse risco para um nível aceitável”. Apontou em particular a prática de usar sistemas de IA para treinar os seus sucessores.
Chega na semana em que dois investigadores da Anthropic tornaram pública a mesma preocupação, um deles demitindo-se por causa dela. A diferença é que Christiano faz o argumento de dentro de uma sala de conselho e não à saída de uma.
Um consultor do Estado dentro da empresa que a sua agência avalia
Christiano mantém o cargo no Center for AI Standards and Innovation e aí vai abster-se de todos os assuntos ligados à OpenAI e das avaliações de modelos. Ainda assim, o arranjo coloca um consultor em funções do organismo de avaliação do governo norte-americano no conselho de uma empresa cujos modelos esse organismo testa, e o TechCrunch noticiou que o duplo papel levantou dúvidas sobre a influência da indústria na política pública de IA.
O que importa acompanhar é se a autoridade declarada do comité chega a ser usada de forma visível. Christiano disse em público que a OpenAI não faz o suficiente; o teste será o que acontece na primeira vez que essa posição colidir com uma data de lançamento.
