Dez lacunas e uma lei proposta

Uma comissão da Câmara dos Comuns pediu uma lei de segurança e protecção da IA na próxima sessão parlamentar, e um novo regulador estatutário com poderes para intervir antes de um modelo chegar ao público. O relatório, Guardrails for Growth: Making AI Safe, foi publicado a 18 de Novembro pela Comissão de Negócios, Inovação, Ciência e Comércio.

O regulador descrito pelos deputados poderia exigir verificação independente das alegações de segurança de um criador, suspender treinos e testes de alto risco, adiar ou proibir uma implantação e suspender serviços quando os riscos não puderem ser controlados. A comissão é explícita: os poderes têm de morder enquanto o sistema está a ser construído, não apenas depois de sair. Alguns modelos, nota, não podem ser retirados de forma fiável depois de copiados e distribuídos.

O relatório identifica dez fragilidades no regime actual. Entre elas: não há definições legais de danos inaceitáveis nem limiares de risco, não há poder legal de acesso aos modelos, não há verificação independente das alegações de segurança, não há comunicação obrigatória de incidentes e quase-incidentes, a responsabilidade e o ressarcimento são inadequados e a protecção de denunciantes é insuficiente.

Testes sem dentes

O Reino Unido já tem o AI Security Institute, que a comissão descreve como um centro de competência reconhecido internacionalmente. O problema é a alavanca. O seu acesso depende de cooperação voluntária e não pode impedir uma empresa de lançar um modelo que o preocupe.

Uma sala de reuniões vazia com cadeiras à volta de uma mesa comprida
A comissão ouviu a OpenAI, a Google DeepMind, a Anthropic e a Meta. Imagem ilustrativa. cottonbro studio · pexels · Pexels License

A resposta da comissão é separar funções: o instituto mantém os testes técnicos e fornece as provas, um regulador distinto aplica a lei, e os ministros, responsáveis perante o Parlamento, decidem que nível de risco o público deve suportar.

As audições na base do relatório incluíram OpenAI, Google DeepMind, Anthropic e Meta. As quatro disseram aos deputados que não lançariam um modelo que considerassem inseguro. A objecção da comissão não é que estejam a mentir, mas que cada uma aplica o seu próprio limiar e julga o seu próprio cumprimento, sem obrigação legal de pedir primeiro uma opinião externa.

Antigos trabalhadores do sector contaram à comissão que levantar preocupações de segurança tem um custo, descrevendo contratos restritivos, pressão comercial e desincentivos financeiros. O relatório pede protecções legais para denunciantes e canais protegidos de comunicação.

O número que acompanha o argumento

A comissão apresenta tudo isto como política de crescimento, não de travagem. Partindo de estimativas de produtividade da OCDE, calcula que a IA poderá deixar a economia britânica até 400 mil milhões de libras maior dentro de dez anos, e defende que são regras claras que darão às empresas mais pequenas confiança para adoptar a tecnologia. Vê também na competência britânica em avaliação a base de uma indústria exportadora de certificação de IA.

Um painel de controlo industrial coberto de interruptores rotativos e luzes indicadoras
Os deputados querem um regulador capaz de suspender treinos de alto risco. Imagem ilustrativa. Florent Bertiaux · pexels · Pexels License

O presidente da comissão, Liam Byrne, foi mais directo: “Não podemos dar aos líderes actuais da IA liberdade sem travões para se comportarem como doutores Frankenstein modernos, criando perigos fora do controlo de qualquer um.”

O que vem a seguir

A comissão quer que os ministros publiquem, dentro de três meses, os seus objectivos para a presidência britânica do G20 em 2027, incluindo cooperação sobre acesso a modelos, avaliações de segurança, comunicação de incidentes e lançamentos de alto risco, e uma avaliação de opções para uma convenção multilateral. Acrescenta que procurar um acordo internacional não deve atrasar as salvaguardas internas.

Nada disto vincula ninguém. As recomendações de uma comissão são conselhos, e o Governo não se comprometeu com a lei. Este é também o primeiro relatório de um inquérito mais longo sobre adopção, segurança e governação da IA, pelo que a comissão voltará.