Vad hon sade
EU-kommissionens ordförande Ursula von der Leyen sade i Europaparlamentet i Strasbourg på onsdagen att hon ska bjuda in de viktigaste AI-labben vid fronten för att diskutera hur EU kan stödja ”industrins pågående arbete med att reglera takten vid fronten”. I sitt tal om tillståndet i unionen kallade hon klimatförändringarna och AI för ”vår tids brytpunkter”.
Hon byggde argumentet på vad utvecklarna själva säger. ”Vd:arna för de mest avancerade företagen säger till oss att det är dags att sakta ned med de självrekursiva modellerna”, sade hon, utan att nämna några namn. ”Om de som utvecklar tekniken är tydliga, då bör vi också vara det.”
Riskerna hon tog upp
Von der Leyen sade att riskerna med AI har blivit tydligare i takt med att de mest avancerade modellerna blir mer kapabla. Modeller som nu utvecklas ”kommer att möjliggöra dataintrång på en nivå vi aldrig trodde var möjlig”, sade hon, och de kommer snart att hamna hos motståndare.
Hon sade också att farorna med självförbättrande modeller blir ”allt tydligare”. Hon beskrev incidenter där AI-agenter tagit sig ut ur sin miljö eller fört in skadlig kod som ”bara en glimt”, och sade att utvecklare har larmat sedan det hon kallade HuggingFace-incidenten, som hon inte beskrev närmare.
Vad EU ska göra
Talet innehöll inget förslag om ett lagstadgat stopp eller nya regler för de mest avancerade modellerna. Von der Leyen kallade AI-förordningen ”en avgörande del i att sätta skyddsräcken på plats” och sade att den ger Europa möjlighet att forma det globala arbetet. EU ska samarbeta med partner som Kanada och Storbritannien om utvärdering och verifiering av modeller, tidig varning och AI-säkerhet, sade hon. Kanadas premiärminister Mark Carney var på plats på hennes inbjudan, och hon föreslog separat en allians mellan EU och Kanada som omfattar AI, kvantteknik, cybersäkerhet och ekonomisk säkerhet.
Hon angav inget datum för mötet med labben och sade inte vilka företag som ska bjudas in, vilket även Help Net Security noterade.
Beräkningskraft och industriell AI
Von der Leyen sade att Europa behöver egen AI-förmåga, särskilt för att skydda den nationella säkerheten, och måste ”kraftigt öka vår beräkningskapacitet”. Kommissionen ska redovisa hur det kan ske på ett rent och effektivt sätt, sade hon, utan att ange några siffror.
Hon hävdade att Europa inte behöver bygga de ledande modellerna för att få ut mest värde av AI. Kommissionen fokuserar på fem sektorer: hälsa, transport, livsmedel och jordbruk, avancerad tillverkning samt försvar och rymd. ”I november kommer vi att presentera banbrytande initiativ inom dessa sektorer”, sade hon, och lade till: ”framför allt vill vi ha AI där människan behåller kontrollen.” Eunews läste avsnitten om AI och klimat som talets röda tråd.
Barn och sociala medier
Talet förhandsvisade också EU:s barnskyddslag, EU Kids Act, som kommissionen ska lägga fram på torsdagen. ”Inga sociala medier under 13 års ålder. Inget personligt konto under 15 års ålder”, sade hon. Barn som är 13 och 14 år skulle bara få använda konton som föräldrarna övervakar, med en gräns på en timme om dagen. Bland skadorna på nätet nämnde hon att flickors bilder används för AI-genererade sexualiserade bilder.
Den bredare debatten
Talet kommer efter en veckas debatt i USA om huruvida labben bör sakta ned, efter att Anthropics vd Dario Amodei publicerat essän We Must Pace the Frontier. Von der Leyen använde samma uttryck men nämnde varken Amodei eller något företag.
Nästa steg
Mötet med AI-labben, som saknar datum, och sektorsinitiativen som väntas i november.
