O que a proposta faz
O senador Bernie Sanders, do Vermont, e o congressista Greg Casar, do Texas, apresentaram a 23 de setembro o Ban Artificial Superintelligence Act. É a proposta sobre IA mais restritiva que já chegou ao Congresso, e faz três coisas ao mesmo tempo.
Proíbe em definitivo o desenvolvimento e a implantação de superinteligência artificial, que o texto define como uma IA que ultrapassa o desempenho cognitivo humano na maioria dos domínios, ou que tem capacidade suficiente para destruir ou destituir a humanidade, incluindo derrubar o governo federal.
Suspende temporariamente o desenvolvimento avançado de IA, ainda que não todo o desenvolvimento de IA, até existir um regulador federal que tenha escrito regras de segurança. E cria esse regulador: um Ministério da Inteligência Artificial, com um conselho consultivo científico, que analisaria os planos anteriores ao desenvolvimento e daria aval antes de um sistema chegar ao público.
Características precursoras e as penas
A suspensão não depende de um limiar de computação, que é como quase todas as regras sobre IA de fronteira foram redigidas até agora. Depende da capacidade. A proposta veda sistemas com o que chama características precursoras de superinteligência, uma lista que inclui a capacidade de melhorar armamento, de enganar seres humanos e de se modificarem a si próprios.
As penas são invulgares em legislação tecnológica. As entidades que violarem a proibição enfrentariam o que os proponentes descrevem como uma pena de morte societária. As pessoas singulares arriscariam até vinte anos de prisão, um prazo que os proponentes comparam às penas por crimes ligados a armas nucleares.
O texto encarrega também os Estados Unidos de procurar acordos internacionais e controlos de exportação, para que a proibição não se limite a empurrar o desenvolvimento para fora do país.
As citações e as contas
“A nossa proposta proíbe o desenvolvimento de superinteligência artificial e pressiona por acordos internacionais, para que ninguém, em lado nenhum, construa IA demasiado poderosa para os humanos controlarem”, disse Casar.
Sanders enquadrou-o como um fracasso da governação voluntária. “Quando o futuro da humanidade está em jogo, precisamos de regras internacionais de segurança vinculativas, não de normas voluntárias da indústria”, afirmou. Também apontou as declarações dos próprios laboratórios: se quem dirige estas empresas admite que está a perder o controlo, argumenta, é irresponsável deixá-las prosseguir.
Casar teve o cuidado de dizer que a proposta não suspenderia todos os sistemas de IA, e falou com entusiasmo das aplicações médicas.
As perspetivas são fracas. A proposta ainda não tem número nem copatrocinador republicano, e surge enquanto a administração avança em sentido contrário. Até parte do movimento pela segurança da IA se absteve de a apoiar: a Alliance for Secure AI elogiou a intenção dos proponentes mas pediu uma abordagem mais comedida do que uma proibição.
O que a proposta faz é fixar um marco. Tudo o que o Congresso ponderou a sério até agora — regimes de divulgação, comunicação de incidentes, disputas sobre a prevalência federal — regula como os sistemas de fronteira são construídos. Esta é a primeira proposta federal a dizer que uma categoria de sistema não deve ser construída de todo, e a associar uma pena de prisão a construí-la. O número a seguir não é a contagem de votos, que dificilmente será testada, mas a lista de copatrocinadores.
