Hva som ble kunngjort
Regjeringene i Canada og Tyskland har forpliktet seg til å gi inntil 300 millioner kanadiske dollar til LawZero, den ideelle AI-sikkerhetsorganisasjonen i Montréal som Yoshua Bengio grunnla. Finansieringen ble kunngjort onsdag på konferansen ALL IN i Montréal, ifølge en pressemelding fra LawZero. The Globe and Mail meldte at hvert land bidrar med inntil 150 millioner kanadiske dollar i tilskudd.
Beløpene er tak. Verken pressemeldingen eller de publiserte artiklene oppga noen tidsplan for når pengene utbetales.
LawZero sa at pengene skal finansiere neste fase i organisasjonens tekniske plan: et større internasjonalt forskerteam, et nytt kontor i Berlin og en egen, suveren datainfrastruktur i Canada som bygges sammen med de kanadiske selskapene Hypertec og 5C. The Logic meldte at organisasjonen skal bruke tilskuddene på forskning og utvikling og på regnekraft fra en ny klynge som Hypertec og 5C bygger for den.
Hva LawZero bygger
Bengio, som har mottatt Turingprisen, startet LawZero i juni 2025, ifølge BetaKit. Organisasjonen ble inkubert ved Mila, Québecs AI-institutt. Ifølge Globe har den nærmere 50 ansatte og startet med nesten 30 millioner amerikanske dollar i filantropiske midler. Pressemeldingen nevner blant annet Gates Foundation, Schmidt Sciences, Future of Life Institute og NVIDIA som bidragsytere.
Hovedprosjektet heter Scientist AI. LawZero beskriver det som et system som utvikles for å resonnere åpent og gi evidensbaserte svar uten egne mål, i motsetning til dagens ledende systemer, som er laget for å handle selvstendig. Organisasjonen regner med at Scientist AI skal fungere som et sikkerhetsgjerde for dagens ledende modeller. Bengio sa til Globe at første prioritet er en overvåker som hindrer andre AI-agenter i å utføre skadelige handlinger, og at metoden ikke vil bruke forsterkende læring. Ifølge The Logic planlegger LawZero å selge Scientist AI som sikkerhetsgjerde for kommersielle AI-verktøy.
Hva ministrene sa
Bengio kalte i pressemeldingen støtten fra Canada og Tyskland et avgjørende øyeblikk som tar organisasjonen inn i neste fase av arbeidet med trygg AI.
Karsten Wildberger, Tysklands forbundsminister for digitalisering og statlig modernisering, sa at landene med Scientist AI utdyper et velprøvd partnerskap. Evan Solomon, Canadas minister for kunstig intelligens og digital innovasjon, sa at investeringen styrker landets suverene AI-kapasitet. Industriminister Mélanie Joly sa at den bygger nasjonal kapasitet og støtter gode arbeidsplasser.
LawZeros president Sam Ramadori sa til The Logic i juli at organisasjonen trengte mer penger for å bygge verktøyene sine og betale for regnekraften som trengs for å trene dem. Bengio sa til Globe at LawZero er i samtaler med andre land om mer finansiering.
Hvorfor det betyr noe
Forpliktelsen setter to regjeringer direkte bak en alternativ måte å bygge AI på, ikke bare bak regler for systemene som allerede finnes. Bengio sa til Globe at statlig støttet arbeid av dette slaget lar andre land enn USA og Kina, som dominerer feltet, være med på å forme teknologien.
Samme dag sa EU-kommisjonens president Ursula von der Leyen i sin tale om unionens tilstand at EU vil samarbeide med partnere som Canada og Storbritannia om evaluering og verifisering av modeller og om AI-sikkerhet.
Hva du bør følge med på
Hvor raskt pengene når LawZero, når kontoret i Berlin åpner og når regnekraften fra Hypertec og 5C tas i bruk. Ingen av disse datoene er offentliggjort.
