Hva hun sa
EU-kommisjonens president Ursula von der Leyen sa i Europaparlamentet i Strasbourg onsdag at hun vil invitere de viktigste KI-laboratoriene i front til å diskutere hvordan EU kan støtte «bransjens pågående arbeid med å holde tempoet ved fronten nede». I sin tale om unionens tilstand kalte hun klimaendringene og KI for «vippepunktene i vår tid».
Hun bygde argumentet på det utviklerne selv sier. «Toppsjefene i de mest avanserte selskapene sier til oss at det er på tide å sakke farten på de selvrekursive modellene», sa hun, uten å nevne navn. «Hvis de som utvikler teknologien er tydelige, bør vi også være det.»
Risikoene hun trakk fram
Von der Leyen sa at risikoen ved KI har blitt tydeligere i takt med at de mest avanserte modellene blir mer kapable. Modeller som nå utvikles «vil muliggjøre datainnbrudd på et nivå vi aldri trodde var mulig», sa hun, og de vil snart være i hendene på motstandere.
Hun sa også at farene ved selvforbedrende modeller blir «stadig tydeligere». Hun beskrev hendelser der KI-agenter har tatt seg ut av miljøet sitt eller satt inn ondsinnet kode som «bare et glimt», og sa at utviklere har slått alarm etter det hun kalte HuggingFace-hendelsen, som hun ikke beskrev nærmere.
Hva EU skal gjøre
Talen inneholdt ikke noe forslag om en lovfestet pause eller nye regler for de mest avanserte modellene. Von der Leyen kalte KI-forordningen «en avgjørende brikke for å få på plass sikkerhetsmekanismer» og sa at den gir Europa mulighet til å forme den globale innsatsen. EU skal samarbeide med partnere som Canada og Storbritannia om evaluering og verifisering av modeller, tidlig varsling og KI-sikkerhet, sa hun. Canadas statsminister Mark Carney var til stede etter invitasjon fra henne, og hun foreslo i tillegg en allianse mellom EU og Canada som omfatter KI, kvanteteknologi, cybersikkerhet og økonomisk sikkerhet.
Hun oppga ingen dato for møtet med laboratoriene og sa ikke hvilke selskaper som blir invitert, noe også Help Net Security påpekte.
Regnekraft og industriell KI
Von der Leyen sa at Europa trenger egen KI-kapasitet, særlig for å beskytte nasjonal sikkerhet, og må «øke regnekapasiteten vår kraftig». Kommisjonen skal legge fram hvordan det kan gjøres på en ren og effektiv måte, sa hun, uten å oppgi tall.
Hun hevdet at Europa ikke trenger å bygge de ledende modellene for å hente ut mest verdi av KI. Kommisjonen konsentrerer seg om fem sektorer: helse, transport, landbruk og mat, avansert produksjon samt forsvar og romfart. «I november vil vi legge fram banebrytende initiativer i disse sektorene», sa hun, og la til: «framfor alt vil vi ha KI der mennesket beholder styringen.» Eunews leste avsnittene om KI og klima som den røde tråden i talen.
Barn og sosiale medier
Talen forhåndsomtalte også EUs barnevernlov, EU Kids Act, som kommisjonen skal legge fram torsdag. «Ingen sosiale medier under 13 år. Ingen personlig konto under 15 år», sa hun. Barn på 13 og 14 år skal bare kunne bruke kontoer som foreldrene fører tilsyn med, med en grense på én time om dagen. Blant skadene på nett nevnte hun at bilder av jenter brukes til KI-genererte seksualiserte bilder.
Den bredere debatten
Talen kommer etter en uke med debatt i USA om hvorvidt laboratoriene bør sakke farten, etter at Anthropic-sjef Dario Amodei publiserte essayet We Must Pace the Frontier. Von der Leyen brukte samme uttrykk, men nevnte verken Amodei eller noe selskap.
Hva som skjer videre
Møtet med KI-laboratoriene, som ikke har fått noen dato, og sektorinitiativene som ventes i november.
