Hvad der blev annonceret
Canadas og Tysklands regeringer har givet tilsagn om op til 300 millioner canadiske dollar til LawZero, den almennyttige organisation for AI-sikkerhed i Montréal, som Yoshua Bengio har grundlagt. Finansieringen blev annonceret onsdag på konferencen ALL IN i Montréal, ifølge en pressemeddelelse fra LawZero. The Globe and Mail skrev, at hvert land bidrager med op til 150 millioner canadiske dollar i tilskud.
Beløbene er lofter. Hverken pressemeddelelsen eller de offentliggjorte artikler angav en tidsplan for, hvornår pengene udbetales.
LawZero oplyste, at pengene skal finansiere næste fase af organisationens tekniske plan: et større internationalt forskerhold, et nyt kontor i Berlin og en dedikeret, suveræn computerinfrastruktur i Canada, der bygges sammen med de canadiske virksomheder Hypertec og 5C. The Logic skrev, at organisationen vil bruge tilskuddene på forskning og udvikling og på regnekraft fra en ny klynge, som Hypertec og 5C bygger til den.
Hvad LawZero bygger
Bengio, der har modtaget Turingprisen, lancerede LawZero i juni 2025, ifølge BetaKit. Organisationen blev inkuberet på Mila, Québecs AI-institut. Ifølge Globe har den knap 50 ansatte og startede med knap 30 millioner amerikanske dollar i filantropiske midler. Pressemeddelelsen nævner blandt andre Gates Foundation, Schmidt Sciences, Future of Life Institute og NVIDIA som bidragydere.
Hovedprojektet hedder Scientist AI. LawZero beskriver det som et system, der udvikles til at ræsonnere gennemsigtigt og give evidensbaserede svar uden egne mål, i modsætning til nutidens førende systemer, der er bygget til at handle selvstændigt. Organisationen forventer, at Scientist AI skal fungere som et værn for nutidens førende modeller. Bengio sagde til Globe, at førsteprioriteten er en overvåger, der forhindrer andre AI-agenter i at udføre skadelige handlinger, og at metoden ikke vil bruge forstærkningslæring. Ifølge The Logic planlægger LawZero at sælge Scientist AI som værn til kommercielle AI-værktøjer.
Hvad ministrene sagde
Bengio kaldte i pressemeddelelsen støtten fra Canada og Tyskland et afgørende øjeblik, der fører organisationen ind i næste fase af arbejdet med sikker AI.
Karsten Wildberger, Tysklands forbundsminister for digitalisering og statslig modernisering, sagde, at landene med Scientist AI uddyber et velafprøvet partnerskab. Evan Solomon, Canadas minister for kunstig intelligens og digital innovation, sagde, at investeringen styrker landets suveræne AI-kapacitet. Industriminister Mélanie Joly sagde, at den opbygger national kapacitet og understøtter gode job.
LawZeros formand Sam Ramadori sagde til The Logic i juli, at organisationen havde brug for flere penge til at bygge sine værktøjer og betale for den regnekraft, der skal til for at træne dem. Bengio sagde til Globe, at LawZero er i dialog med andre lande om mere finansiering.
Hvorfor det betyder noget
Tilsagnet stiller to regeringer direkte bag en alternativ måde at bygge AI på, ikke kun bag regler for de systemer, der allerede findes. Bengio sagde til Globe, at statsstøttet arbejde af denne art giver andre lande end USA og Kina, som dominerer feltet, mulighed for at præge teknologien.
Samme dag sagde EU-Kommissionens formand, Ursula von der Leyen, i sin tale om Unionens tilstand, at EU vil samarbejde med partnere som Canada og Storbritannien om evaluering og verifikation af modeller og om AI-sikkerhed.
Det skal du holde øje med
Hvor hurtigt pengene når frem til LawZero, hvornår kontoret i Berlin åbner, og hvornår regnekraften fra Hypertec og 5C tages i brug. Ingen af datoerne er offentliggjort.
