O que ela disse
A presidente da Comissão Europeia, Ursula von der Leyen, disse na quarta-feira no Parlamento Europeu, em Estrasburgo, que vai convidar os principais laboratórios de IA de ponta para discutir como a UE pode apoiar “os esforços em curso da indústria para controlar o ritmo da fronteira”. No seu discurso sobre o Estado da União, chamou às alterações climáticas e à IA “os pontos de viragem do nosso tempo”.
Apoiou o argumento no que dizem os próprios criadores da tecnologia. “Os CEO das empresas mais avançadas dizem-nos que é altura de abrandar nos modelos autorrecursivos”, afirmou, sem os nomear. “Se quem desenvolve a tecnologia é claro, nós também devemos ser.”
Os riscos que apontou
Von der Leyen disse que os riscos da IA ficaram mais nítidos à medida que os modelos de ponta se tornam mais capazes. Os modelos em desenvolvimento “vão permitir ataques informáticos a um nível que nunca julgámos possível”, disse, e em breve estarão nas mãos de adversários.
Disse também que os perigos dos modelos que se aperfeiçoam a si próprios são “cada vez mais evidentes”. Descreveu os incidentes de agentes de IA que escapam ao seu ambiente ou inserem código malicioso como “um mero vislumbre” e disse que os programadores dão o alarme desde aquilo a que chamou o incidente da HuggingFace, que não detalhou.
O que a UE vai fazer
O discurso não propôs uma pausa legal nem novas regras para os modelos de ponta. Von der Leyen classificou o Regulamento da IA como “uma peça crucial para criar salvaguardas” e disse que coloca a Europa em posição de influenciar os esforços globais. A UE vai trabalhar com parceiros como o Canadá e o Reino Unido em avaliação e verificação de modelos, alerta precoce e segurança da IA, disse. O primeiro-ministro canadiano, Mark Carney, esteve presente a seu convite, e ela propôs à parte uma aliança UE-Canadá que abrange IA, quântica, cibersegurança e segurança económica.
Não indicou data para a reunião com os laboratórios nem disse que empresas serão convidadas, como também notou a Help Net Security.
Computação e IA industrial
Von der Leyen disse que a Europa precisa de capacidades próprias de IA, sobretudo para proteger a segurança nacional, e tem de “aumentar massivamente a nossa capacidade de computação”. A Comissão vai explicar como fazê-lo de forma limpa e eficiente, disse, sem apresentar números.
Defendeu que a Europa não precisa de criar os modelos mais avançados para tirar o maior valor da IA. A Comissão está a concentrar-se em cinco setores: saúde, transportes, agroalimentar, indústria avançada, e defesa e espaço. “Em novembro, vamos anunciar iniciativas transformadoras nestes setores”, disse, acrescentando: “acima de tudo, queremos uma IA com controlo humano.” O Eunews leu as passagens sobre IA e clima como o eixo central do discurso.
Crianças e redes sociais
O discurso antecipou também a lei europeia de proteção das crianças, o EU Kids Act, que a Comissão deve apresentar na quinta-feira. “Nada de redes sociais antes dos 13 anos. Nenhuma conta pessoal antes dos 15”, disse. As crianças de 13 e 14 anos ficariam limitadas a contas supervisionadas pelos pais, com um limite de uma hora por dia. Entre os danos online, referiu o uso de fotografias de raparigas para criar imagens sexualizadas com IA.
O debate mais amplo
O discurso surge depois de uma semana de discussão nos Estados Unidos sobre se os laboratórios de ponta devem abrandar, na sequência do ensaio do CEO da Anthropic, Dario Amodei, We Must Pace the Frontier. Von der Leyen usou a mesma expressão, mas não mencionou Amodei nem qualquer empresa.
O que acompanhar
A reunião com os laboratórios de ponta, para a qual não foi dada data, e as iniciativas setoriais previstas para novembro.
