Ce qu’elle a dit
La présidente de la Commission européenne, Ursula von der Leyen, a déclaré mercredi devant le Parlement européen à Strasbourg qu’elle invitera les principaux laboratoires d’IA de pointe à discuter de la manière dont l’UE peut soutenir « les efforts en cours de l’industrie pour maîtriser le rythme de la frontière ». Dans son discours sur l’état de l’Union, elle a qualifié le changement climatique et l’IA de « points de bascule de notre époque ».
Elle s’est appuyée sur ce que disent les développeurs eux-mêmes. « Les PDG des entreprises les plus avancées nous disent qu’il est temps de ralentir sur les modèles autorécursifs », a-t-elle dit, sans les nommer. « Si ceux qui développent la technologie sont clairs, nous devrions l’être aussi. »
Les risques évoqués
Selon Ursula von der Leyen, les risques de l’IA sont devenus plus nets à mesure que les modèles de pointe gagnent en capacités. Les modèles en cours de développement « permettront du piratage à un niveau que nous n’aurions jamais cru possible », a-t-elle dit, et seront bientôt entre les mains d’adversaires.
Elle a ajouté que les dangers des modèles capables de s’améliorer eux-mêmes sont « de plus en plus manifestes ». Elle a décrit les incidents d’agents d’IA sortant de leur environnement ou insérant du code malveillant comme « un simple aperçu », et affirmé que les développeurs tirent la sonnette d’alarme depuis ce qu’elle a appelé l’incident HuggingFace, sans le détailler.
Ce que fera l’UE
Le discours ne propose ni moratoire légal ni nouvelles règles pour les modèles de pointe. Ursula von der Leyen a qualifié le règlement sur l’IA d’« élément crucial pour mettre en place des garde-fous » et a estimé qu’il permet à l’Europe de peser sur les efforts mondiaux. L’UE travaillera avec des partenaires comme le Canada et le Royaume-Uni sur l’évaluation et la vérification des modèles, l’alerte précoce et la sécurité de l’IA, a-t-elle dit. Le Premier ministre canadien, Mark Carney, était présent à son invitation, et elle a proposé par ailleurs une alliance UE-Canada couvrant l’IA, le quantique, la cybersécurité et la sécurité économique.
Elle n’a donné aucune date pour la réunion avec les laboratoires et n’a pas dit quelles entreprises seraient invitées, comme l’a aussi relevé Help Net Security.
Calcul et IA industrielle
Ursula von der Leyen a dit que l’Europe a besoin de ses propres capacités en IA, notamment pour protéger la sécurité nationale, et doit « augmenter massivement notre capacité de calcul ». La Commission présentera la manière d’y parvenir de façon propre et efficace, a-t-elle dit, sans avancer de chiffres.
Elle a soutenu que l’Europe n’a pas besoin de concevoir les modèles les plus avancés pour tirer le plus de valeur de l’IA. La Commission se concentre sur cinq secteurs : santé, transports, agroalimentaire, fabrication avancée, ainsi que défense et espace. « En novembre, nous annoncerons des initiatives décisives dans ces secteurs », a-t-elle dit, avant d’ajouter : « par-dessus tout, nous voulons une IA qui laisse la maîtrise à l’humain. » Eunews a lu les passages sur l’IA et le climat comme le fil conducteur du discours.
Enfants et réseaux sociaux
Le discours a aussi annoncé l’EU Kids Act, que la Commission doit présenter jeudi. « Pas de réseaux sociaux avant 13 ans. Pas de compte personnel avant 15 ans », a-t-elle dit. Les enfants de 13 et 14 ans seraient limités à des comptes supervisés par leurs parents, avec une limite d’une heure par jour. Parmi les dangers en ligne, elle a cité l’utilisation de photos de filles pour créer des images sexualisées par IA.
Le débat plus large
Le discours intervient après une semaine de débat aux États-Unis sur la nécessité pour les laboratoires de ralentir, à la suite de l’essai du PDG d’Anthropic, Dario Amodei, We Must Pace the Frontier. Ursula von der Leyen a repris l’expression, sans citer Amodei ni aucune entreprise.
À suivre
La réunion avec les laboratoires de pointe, dont la date n’a pas été donnée, et les initiatives sectorielles attendues en novembre.
