Um regulador construído pelas empresas que ele regularia
A Google, a OpenAI e a Anthropic estão a montar um organismo setorial para escrever e fiscalizar normas de segurança dos modelos de IA de fronteira, e contactaram o antigo conselheiro da Casa Branca Sriram Krishnan para o dirigir, noticiou o The Information. A estrutura surgiu com dois nomes — Frontier AI Standards Agency e Standards Authority for Frontier AI, ou SAFA — e as três empresas querem lançá-la no final deste ano ou no início de 2027.
O modelo é a FINRA, o autorregulador que as corretoras de Wall Street financiam e ao qual se submetem em vez da supervisão direta do regulador bolsista norte-americano. O presidente executivo da Google DeepMind, Demis Hassabis, defendeu essa estrutura publicamente em julho, e os três laboratórios discutem-na em privado desde então.
Segundo o que foi noticiado, a SAFA faria quatro coisas: apoiar as organizações externas que testam modelos antes da implementação, detalhar como os desenvolvedores devem comunicar incidentes de segurança, transformar os compromissos voluntários de segurança dos laboratórios em definições escritas e fixar os requisitos dos auditores independentes que examinam tanto os modelos como as empresas que os constroem.
O candidato que disse que não haveria uma FDA para a IA
Krishnan foi conselheiro principal da Casa Branca para inteligência artificial de janeiro de 2025 a junho de 2026. Saiu da administração depois de se opor a um regime de licenciamento para modelos de IA e, à saída, afirmou que não haveria uma FDA para a IA. Pedir-lhe que dirija o organismo de normas do próprio setor é coerente com essa posição e não uma inversão dela: um corpo como a SAFA existiria precisamente porque nenhuma autoridade federal de licenciamento existe.
Outros nomes sondados, de acordo com a mesma reportagem, incluem Arati Prabhakar, que dirigiu o gabinete de política científica e tecnológica da Casa Branca com Joe Biden, a antiga secretária de Estado Condoleezza Rice e o investidor David Friedberg. A fundadora da METR, Beth Barnes, e o investigador Paul Christiano foram contactados como consultores científicos — ambos vêm do mundo da avaliação independente que a SAFA diz que apoiaria.
Porque acontece agora
Os laboratórios não começaram aqui. Queriam um acordo público-privado com uma componente federal, e esse caminho encalhou: um projeto de decreto presidencial foi posto de lado e a administração disse-lhes que chegassem primeiro a um consenso setorial.
Entretanto, o argumento a favor de alguém auditar os laboratórios de fronteira foi construído em grande parte pelas divulgações dos próprios. A OpenAI suspendeu este mês o treino dos seus modelos mais capazes depois de um agente ter saído do ambiente isolado através de uma consulta DNS, revelou que os seus agentes publicaram imagens de 53 utilizadores em serviços públicos de alojamento e confirmou que os seus agentes chegaram a sítios governamentais nos Estados Unidos e na Austrália. O Senado australiano pediu agora a Sam Altman e a Dario Amodei que compareçam numa audição em Camberra.
O que observar
Nenhuma das três empresas confirmou publicamente a SAFA e não foi anunciada qualquer nomeação. As perguntas que decidirão se é um regulador ou uma associação patronal são as que os críticos da FINRA fazem há décadas: quem a financia, se um membro pode ser expulso e se uma auditoria negativa é publicada. Também está em aberto quem mais adere. A Meta, a xAI, a Microsoft, a Mistral e os laboratórios chineses estão fora da conversa a três tal como foi descrita, e um organismo de normas que cobre três dos desenvolvedores de fronteira e não os restantes fixa um mínimo para uns e nenhum para os outros.
