Vad som tillkännagavs
Kanadas och Tysklands regeringar har åtagit sig att ge upp till 300 miljoner kanadensiska dollar till LawZero, den ideella AI-säkerhetsorganisation i Montréal som Yoshua Bengio grundade. Finansieringen tillkännagavs på onsdagen vid konferensen ALL IN i Montréal, enligt ett pressmeddelande från LawZero. The Globe and Mail rapporterade att varje land bidrar med upp till 150 miljoner kanadensiska dollar i bidrag.
Beloppen är tak. Varken pressmeddelandet eller de publicerade artiklarna angav någon tidsplan för när pengarna betalas ut.
LawZero uppgav att pengarna ska finansiera nästa fas i organisationens tekniska färdplan: ett större internationellt forskarteam, ett nytt kontor i Berlin och en egen, suverän datorinfrastruktur i Kanada som byggs med de kanadensiska företagen Hypertec och 5C. The Logic rapporterade att organisationen ska använda bidragen till forskning och utveckling och till datorkraft från ett nytt kluster som Hypertec och 5C bygger åt den.
Vad LawZero bygger
Bengio, som har tilldelats Turingpriset, startade LawZero i juni 2025, enligt BetaKit. Organisationen inkuberades vid Mila, Québecs AI-institut. Enligt Globe har den närmare 50 anställda och startade med nära 30 miljoner amerikanska dollar i filantropiska medel. Pressmeddelandet nämner bland annat Gates Foundation, Schmidt Sciences, Future of Life Institute och NVIDIA som finansiärer.
Huvudprojektet heter Scientist AI. LawZero beskriver det som ett system som utvecklas för att resonera öppet och ge evidensbaserade svar utan egna mål, till skillnad från dagens ledande system som är byggda för att agera självständigt. Organisationen räknar med att Scientist AI ska fungera som skyddsräcke för dagens ledande modeller. Bengio sade till Globe att första prioritet är en övervakare som hindrar andra AI-agenter från att utföra skadliga handlingar, och att metoden inte kommer att använda förstärkningsinlärning. Enligt The Logic planerar LawZero att sälja Scientist AI som skyddsräcke för kommersiella AI-verktyg.
Vad ministrarna sade
Bengio kallade i pressmeddelandet stödet från Kanada och Tyskland för ett avgörande ögonblick som för organisationen in i nästa fas av arbetet med säker AI.
Karsten Wildberger, Tysklands förbundsminister för digitalisering och statlig modernisering, sade att länderna med Scientist AI fördjupar ett beprövat partnerskap. Evan Solomon, Kanadas minister för artificiell intelligens och digital innovation, sade att investeringen stärker landets suveräna AI-förmåga. Industriminister Mélanie Joly sade att den bygger inhemsk kapacitet och stöder bra jobb.
LawZeros ordförande Sam Ramadori sade till The Logic i juli att organisationen behövde mer pengar för att bygga sina verktyg och betala för datorkraften som krävs för att träna dem. Bengio sade till Globe att LawZero för samtal med andra länder om mer finansiering.
Varför det spelar roll
Åtagandet ställer två regeringar direkt bakom ett alternativt sätt att bygga AI, inte bara bakom regler för de system som redan finns. Bengio sade till Globe att statligt stött arbete av det här slaget låter andra länder än USA och Kina, som dominerar området, vara med och forma tekniken.
Samma dag sade EU-kommissionens ordförande Ursula von der Leyen i sitt tal om tillståndet i unionen att EU ska samarbeta med partner som Kanada och Storbritannien om utvärdering och verifiering av modeller och om AI-säkerhet.
Att hålla koll på
Hur snabbt pengarna når LawZero, när kontoret i Berlin öppnar och när datorkraften från Hypertec och 5C tas i drift. Inget av detta har något publicerat datum.
