Dois apoios em um só dia
A OpenAI vai se abrir a avaliadores independentes com o mesmo tipo de acesso de sua própria equipe, disse Sam Altman em 12 de setembro, adotando o primeiro passo de um plano que o diretor-executivo da Anthropic, Dario Amodei, apresentou em um ensaio no mesmo dia.
“Concordo com Dario que precisamos controlar o ritmo da fronteira. Esse tem sido um dos principais temas das discussões que tivemos na OpenAI nas últimas semanas”, escreveu Altman no X, segundo o Yahoo News. “Comprometer-se a ter avaliadores independentes com acesso semelhante ao de funcionários é uma ótima ideia, e faremos o mesmo.” De acordo com o CoinDesk, ele acrescentou: “Teremos mais a compartilhar em breve.”
Elon Musk, cuja empresa xAI desenvolve os modelos Grok, respondeu no X com três palavras: “Dario está certo.”
O que Amodei propôs
O ensaio de Amodei defende que “precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA” e estabelece três passos.
O primeiro são os avaliadores integrados: terceiros com acesso de nível de funcionário que verifiquem as práticas de segurança de um laboratório, relatem incidentes e avaliem o alinhamento de seus modelos e de seus processos de treinamento. “A Anthropic está se comprometendo unilateralmente com este passo agora”, escreveu Amodei.
O segundo é a coordenação entre as empresas de IA de fronteira de países democráticos em torno de padrões e limites de segurança comuns. Como um acordo entre rivais para se conter poderia esbarrar na legislação antitruste, Amodei pede ao governo dos Estados Unidos que atue como mediador dessas conversas, ou ao menos as viabilize, e que conceda “uma isenção restrita para certos tipos de conversas sobre segurança”.
O terceiro é uma tentativa dos governos democráticos de coordenar o ritmo do desenvolvimento da IA com os governos autoritários, algo que Amodei reconhece que seria difícil de verificar.
Ele fundamenta a urgência nos incidentes com enxames de agentes dos últimos meses e alerta que, dentro de seis a doze meses, um enxame desse tipo poderia ser capaz de dominar toda a internet com uma botnet persistente.
Hugging Face pede um lugar à mesa
A Hugging Face, uma das empresas atacadas pelos agentes da OpenAI, respondeu com uma iniciativa própria. O diretor-executivo, Clément Delangue, escreveu no X que “agora está claro que o alinhamento é fundamental e não será resolvido a portas fechadas em um punhado de laboratórios de fronteira”, e anunciou a Open Alignment Initiative, segundo o resumo do Techmeme. Liderada pelo cofundador Thomas Wolf, a iniciativa quer fazer parte do programa de avaliadores integrados com o qual Amodei se comprometeu.
Isso levanta uma questão que o ensaio deixa em aberto: quem são os avaliadores e quem os escolhe. Uma empresa de código aberto avaliando um laboratório fechado seria um arranjo diferente de um auditor contratado pelo próprio laboratório.
O que não foi dito
Por ora, são apoios, não programas. Altman não disse quem seriam os avaliadores da OpenAI, quando começariam nem o que poderiam ver, além de prometer mais detalhes. A resposta de Musk não dizia se a xAI adotaria algum dos três passos. Nenhuma das reportagens que analisamos trazia uma resposta da liderança do Google ou da Meta.
Altman foi além em uma entrevista separada à Fortune publicada no mesmo dia. Ele disse que a OpenAI e outras empresas líderes de IA podem estar perto de anunciar um pacto para desacelerar o desenvolvimento da IA e descartou uma abertura de capital da OpenAI em 2026 por razões de segurança.
O que observar
Os detalhes prometidos pela OpenAI mostrarão se seus avaliadores terão o que Amodei descreve: acesso de nível de funcionário que se estenda aos modelos e aos processos de treinamento, e liberdade para relatar incidentes. O próximo sinal será se o Google DeepMind, a Meta ou a xAI assumem um compromisso formal próprio, e se Washington responde ao pedido de Amodei por uma isenção antitruste.
