Um conselho inteiro, sob juramento
O conselho municipal de Nova Iorque reúne-se hoje como Comissão Plenária — os 51 vereadores, um formato que não usava desde 2022 — para recolher depoimentos sobre os riscos da inteligência artificial. Jacob Coxon, que se demitiu da Anthropic no mês passado, vai depor a pedido da presidente do conselho, Julie Menin, segundo a Bloomberg, retomada pela Reuters.
Espera-se que a Coxon se juntem outros dois que deixaram laboratórios de fronteira: Alex Turner, antes na Google DeepMind, e Daniel Kokotajlo, antigo investigador da OpenAI que dirige agora o AI Futures Project. Ao sair da Anthropic, Coxon disse que quem constrói IA “acredita sinceramente que ela nos pode matar a todos antes do fim da década”, e acusou a antiga empregadora e a OpenAI de “apostarem com as nossas vidas”.
O que torna o dia de hoje invulgar não são as testemunhas, mas o juramento. O Congresso realiza audições sobre IA há três anos sem obrigar ninguém; um conselho municipal acaba de o fazer.
Como as empresas chegaram aqui
Menin convidou os presidentes executivos: Dario Amodei, Sam Altman, Sundar Pichai, Elon Musk e Mark Zuckerberg. Não vai nenhum. A Anthropic, a OpenAI, a Google e a Meta enviam em vez disso representantes, que deporão sob juramento.
O caminho até esse acordo não foi voluntário para a maioria. A Meta aceitou sem pressão. A Google e a Anthropic recusaram antes do prazo de sexta-feira fixado pelo conselho e aceitaram depois de avisadas de que se seguiriam intimações. A OpenAI confirmou no domingo, após o mesmo aviso. A SpaceXAI não respondeu de todo e foi formalmente intimada, noticiou o amNewYork. Se a empresa não cumprir, o conselho pode pedir ao Supremo Tribunal do estado de Nova Iorque que faça cumprir a intimação.
“Estas empresas têm uma presença significativa em Nova Iorque e empregam em conjunto dezenas de milhares de nova-iorquinos”, disse Menin, acrescentando que “devem-no aos seus trabalhadores e, acima de tudo, ao público: comparecer perante o conselho”.
As propostas por trás da audição
A audição existe para fazer avançar um pacote de propostas que o conselho anunciou a 25 de setembro. As medidas exigiriam que os sistemas de IA vendidos na cidade passassem uma validação por terceiros e tivessem um interruptor de emergência; pagariam aos denunciantes uma parte das multas geradas pelas suas participações; e criariam uma ação privada que permitiria aos nova-iorquinos processar empresas de IA quando uma ferramenta desbloqueada lhes causasse danos.
A medida mais ampla fixa uma sanção de 25 mil dólares por ocorrência e exige verificações independentes sobre qualidade dos dados, enviesamento, privacidade e segurança. A ação privada é a disposição contra a qual a indústria mais faz pressão onde quer que apareça, porque tira a aplicação da lei da discricionariedade de um regulador e a coloca nas mãos de qualquer um que tenha advogado.
Porquê uma cidade
Nova Iorque legisla num vazio. Continua a não haver uma lei federal abrangente sobre IA, e a posição da atual administração é afastar as regras estaduais que considera pesadas em vez de escrever as suas. Uma cidade não pode regular o treino de modelos, mas pode regular o que se vende dentro das suas fronteiras, e Nova Iorque é grande o suficiente para que cumprir ali tenda a tornar-se o padrão noutros sítios.
A questão de competência é real e será litigada se as propostas passarem. Uma sanção de 25 mil dólares por ocorrência aplicada a um produto vendido em todo o país convida a uma discussão sobre onde acaba a autoridade municipal.
O que há a seguir é, ainda assim, mais estreito do que as propostas. É saber se o depoimento sob juramento produz algo que o depoimento voluntário não produziu. Os executivos já compareceram repetidamente perante legisladores e disseram o que escolheram dizer. Hoje, três pessoas que saíram destas empresas responderão às mesmas perguntas, sob o mesmo juramento, na mesma ata.
