Hvad hun sagde
EU-Kommissionens formand, Ursula von der Leyen, sagde onsdag i Europa-Parlamentet i Strasbourg, at hun vil invitere de vigtigste AI-laboratorier i front til at drøfte, hvordan EU kan støtte »branchens igangværende bestræbelser på at styre tempoet ved fronten«. I sin tale om Unionens tilstand kaldte hun klimaforandringerne og AI for »vores tids vendepunkter«.
Hun byggede argumentet på, hvad udviklerne selv siger. »Topcheferne i de mest avancerede virksomheder siger til os, at det er tid til at sætte farten ned med de selvrekursive modeller,« sagde hun uden at nævne navne. »Hvis de, der udvikler teknologien, er klare i mælet, bør vi også være det.«
De risici, hun nævnte
Von der Leyen sagde, at risiciene ved AI er blevet tydeligere, i takt med at de mest avancerede modeller bliver mere kapable. Modeller, der er under udvikling, »vil muliggøre hacking på et niveau, vi aldrig troede muligt«, sagde hun, og de vil snart være i hænderne på modstandere.
Hun sagde også, at farerne ved selvforbedrende modeller bliver »stadig tydeligere«. Hun beskrev hændelser, hvor AI-agenter er sluppet ud af deres miljø eller har indsat ondsindet kode, som »blot et glimt«, og sagde, at udviklere har slået alarm siden det, hun kaldte HuggingFace-hændelsen, som hun ikke beskrev nærmere.
Hvad EU vil gøre
Talen indeholdt ikke noget forslag om en lovbestemt pause eller nye regler for de mest avancerede modeller. Von der Leyen kaldte AI-forordningen »en afgørende brik i at få sikkerhedsforanstaltninger på plads« og sagde, at den giver Europa mulighed for at præge den globale indsats. EU vil samarbejde med partnere som Canada og Storbritannien om evaluering og verifikation af modeller, tidlig varsling og AI-sikkerhed, sagde hun. Canadas premierminister, Mark Carney, var til stede på hendes invitation, og hun foreslog desuden en alliance mellem EU og Canada, der omfatter AI, kvanteteknologi, cybersikkerhed og økonomisk sikkerhed.
Hun gav ingen dato for mødet med laboratorierne og sagde ikke, hvilke virksomheder der bliver inviteret, hvilket Help Net Security også bemærkede.
Regnekraft og industriel AI
Von der Leyen sagde, at Europa har brug for sin egen AI-kapacitet, især for at beskytte den nationale sikkerhed, og skal »øge vores regnekapacitet massivt«. Kommissionen vil fremlægge, hvordan det kan ske på en ren og effektiv måde, sagde hun uden at nævne tal.
Hun argumenterede for, at Europa ikke behøver at bygge de førende modeller for at få mest værdi ud af AI. Kommissionen fokuserer på fem sektorer: sundhed, transport, landbrug og fødevarer, avanceret fremstilling samt forsvar og rumfart. »I november vil vi præsentere banebrydende initiativer på tværs af disse sektorer,« sagde hun og tilføjede: »frem for alt vil vi have AI, hvor mennesket bevarer styringen.« Eunews læste afsnittene om AI og klima som talens røde tråd.
Børn og sociale medier
Talen gav også et forvarsel om EU’s børnebeskyttelseslov, EU Kids Act, som Kommissionen fremlægger torsdag. »Ingen sociale medier under 13 år. Ingen personlig konto under 15 år,« sagde hun. Børn på 13 og 14 år vil kun kunne bruge konti, som forældrene fører tilsyn med, og højst en time om dagen. Blandt skaderne på nettet nævnte hun, at billeder af piger bruges til AI-genererede seksualiserede billeder.
Den bredere debat
Talen kommer efter en uges debat i USA om, hvorvidt laboratorierne bør sætte farten ned, efter at Anthropics topchef, Dario Amodei, udgav essayet We Must Pace the Frontier. Von der Leyen brugte samme udtryk, men nævnte hverken Amodei eller nogen virksomhed.
Hvad der sker nu
Mødet med AI-laboratorierne, som ikke har fået nogen dato, og sektorinitiativerne, der ventes i november.
