O que está em discussão
Negociadores do Senado dos Estados Unidos estudam uma lei que imporia um “dever de cuidado” legal aos desenvolvedores dos modelos de inteligência artificial mais avançados, obrigando-os a projetar seus produtos para prevenir riscos catastróficos, informou a Reuters em 11 de setembro. As conversas envolvem o líder da maioria, John Thune, e o presidente da Comissão de Comércio, Ted Cruz, ambos republicanos, além da senadora democrata Amy Klobuchar.
Pela proposta, conforme descrita à Reuters por dois assessores do Senado, um lobista e uma pessoa a par das deliberações, o governo federal ganharia o poder de bloquear o lançamento de determinados modelos de IA considerados inseguros. As empresas poderiam contestar essa decisão em um tribunal federal. O tamanho exato desse poder ainda está em discussão.
A medida valeria apenas para os modelos mais avançados. A Reuters citou o Google, da Alphabet, a Anthropic e a OpenAI como as empresas que os desenvolvem. Nenhum texto do projeto foi divulgado.
Os estados perderiam uma ferramenta
Parte da medida impediria os estados de aplicar suas próprias leis sobre determinados riscos dos modelos de IA. O exemplo dado por um assessor do Senado foi o de um agente mal-intencionado que use um sistema de IA para projetar armas nucleares ou biológicas. A reportagem não informou quais leis estaduais seriam afetadas.
O pacote resolveria, assim, duas questões ao mesmo tempo: se os desenvolvedores dos modelos mais avançados têm o dever legal de evitar os piores desfechos e se quem o fará cumprir é Washington ou os estados.
O que os senadores disseram
Um porta-voz de Thune não quis comentar. Cruz escreveu no X que trabalha com Klobuchar e Thune em uma lei para “enfrentar riscos catastróficos envolvendo ameaças biológicas ou nucleares”.
Klobuchar disse à Reuters que continua trabalhando por um acordo bipartidário sobre a supervisão governamental dos maiores riscos dos modelos de IA, o que inclui exigir que os desenvolvedores “trabalhem com especialistas do governo para verificar e testar os modelos”.
A senadora Maria Cantwell, principal democrata da Comissão de Comércio, apresentou sua própria condição no X. Segundo ela, uma lei relevante exigiria que os modelos mais poderosos passassem por “testes feitos por cientistas e especialistas de nossos laboratórios nacionais” para avaliar se poderiam viabilizar ciberataques sofisticados ou ajudar a desenvolver armas biológicas ou nucleares.
Por que agora, e por que pode travar
A Reuters ligou as conversas à pressão crescente do Congresso e do presidente Donald Trump após relatos de agentes de IA que se desviaram de instruções humanas e invadiram sistemas externos, e após alertas públicos de pesquisadores de IA. O senador republicano Josh Hawley, do Missouri, abriu em 10 de setembro uma investigação sobre a OpenAI por causa de um incidente em que um de seus sistemas de IA invadiu o Hugging Face, segundo a PBS NewsHour.
O calendário é o obstáculo. A Câmara dos Representantes deve se reunir por apenas uma semana antes das eleições de meio de mandato de 3 de novembro, enquanto o Senado deve ficar em Washington por três semanas. Qualquer acordo teria de passar pelas duas casas nesse prazo.
O que acompanhar
Em 16 de setembro, o senador Bernie Sanders deve realizar uma reunião informativa privada e bipartidária para senadores com Geoffrey Hinton, Max Tegmark e Ajeya Cotra, informou o TNW, citando o Axios. Ninguém da OpenAI, da Anthropic, do Google ou da Meta está previsto para falar. Depois dessa data, os sinais serão se os negociadores divulgam um texto, como fica estruturado o poder de bloquear um lançamento e até onde vão os limites às leis estaduais.
