Uma primeira vez para o Conselho
O Conselho de Segurança da ONU reúne-se na quarta-feira em Nova Iorque para uma sessão informativa de alto nível sobre inteligência artificial e segurança internacional, convocada pela França, que preside ao Conselho em setembro. A sessão é presidida pelo ministro francês para a Europa e os Negócios Estrangeiros, Jean-Noël Barrot, e decorre durante o segmento de alto nível da 81.ª sessão da Assembleia Geral, segundo o Security Council Report, que publica o programa de trabalho do Conselho.
O Conselho já tinha abordado a inteligência artificial. O Security Council Report contabiliza seis reuniões anteriores, formais e informais, sobre o efeito da tecnologia na paz e na segurança internacionais. A de quarta-feira é a primeira dedicada especificamente aos riscos de segurança e à possibilidade de os humanos perderem o controlo dos sistemas avançados.
Quem vai intervir
Os oradores previstos são Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA da ONU, o presidente executivo da OpenAI, Sam Altman, o presidente executivo da Anthropic, Dario Amodei, e o presidente executivo da Hugging Face, Clément Delangue. É um elenco invulgar para uma sala onde costumam ser ouvidos enviados especiais e coordenadores humanitários.
Também foram convidados a falar programadores chineses. A DeepSeek e a Moonshot AI receberam convites para fazer declarações, noticiou a Runtime Wire a 22 de setembro, acrescentando que a presença da DeepSeek, o seu delegado e a sua intervenção continuavam por confirmar. Os meios estatais chineses descreveram os apelos ocidentais para travar o desenvolvimento de fronteira como uma tentativa de deixar a China de fora da conversa sobre governação.
O que a França pôs na agenda
A França fez circular antes da reunião uma nota conceptual que insiste num desenvolvimento seguro e responsável da IA e levanta riscos sistémicos decorrentes do desalinhamento e da perda de controlo sobre os modelos avançados. A nota destaca a hipótese de sistemas autónomos atacarem infraestruturas críticas e defende que uma inteligência artificial geral capaz de se melhorar de forma recursiva agrava ainda mais esse risco.
Coloca quatro perguntas aos membros: que riscos para a paz e a segurança internacionais decorrem do ritmo do progresso da IA; como podem os atores governamentais e não governamentais responder-lhes; que ferramentas diplomáticas, medidas de coordenação e passos de reforço da confiança existem; e se os métodos de avaliação e verificação conseguem acompanhar os sistemas que devem medir.
Não se espera documento final
O Security Council Report não espera um acordo formal. É provável que os membros concordem que são necessárias salvaguardas e discordem sobre quem detém a autoridade reguladora, até onde devem ir as restrições e como seria aplicado o que ficasse acordado — a habitual divisão entre quadros de governação nacionais e internacionais.
A sessão surge depois de uma nota temática publicada a 21 de setembro pelo Painel Científico Independente da ONU sobre IA, que defendia que o modelo tradicional de salvaguardas se está a desfazer à medida que os sistemas atuam com menos supervisão humana. Bengio copreside a esse painel e levará as suas conclusões para a sala.
O que vigiar
Duas coisas. A primeira é se a DeepSeek chega a falar, e o que diz um programador chinês de fronteira perante o Conselho quando o tema é perder o controlo dos seus próprios produtos. A segunda é se o Conselho trata isto como uma sessão isolada ou como o início de uma linha de trabalho: uma declaração presidencial ou uma resolução seriam o sinal, e nenhuma está em cima da mesa esta semana.
