»Vi har ikke brug for nye love«
Nvidias topchef Jensen Huang sagde tirsdag til publikum på Salesforce-konferencen Dreamforce i San Francisco, at kunstig intelligens ikke har brug for ny regulering, og at de virksomheder, der bygger den, bør betros at holde øje med sig selv.
»Sikkerhed er et teknisk problem, ikke et juridisk,« sagde Huang ifølge TechCrunch, som gengav udtalelserne. Han tilføjede: »Vi har ikke brug for nye love. Vi har ikke brug for nye reguleringer.« Hans opskrift til en virksomhed i tvivl om et system var enkel: »Hvis du ikke har tillid til dets funktion, evne eller sikkerhed, så udgiv det ikke.«
Huang afviste også billedet af, at hastighed og sikkerhed står over for hinanden, kaldte valget mellem at gå hurtigt og gå forsigtigt falsk, og sagde, at det arbejde, der faktisk betyder noget, er at bygge de testmiljøer, hvori systemerne vurderes.
Den anden side af argumentet var i samme bygning
Tidspunktet var ikke tilfældigt. Anthropics topchef Dario Amodei optrådte også på Dreamforce, fire dage efter at have offentliggjort et essay, der beder frontlaboratorierne bremse i fællesskab for at undgå katastrofal risiko. Teksten har domineret sektoren siden lørdag: Sam Altman, Demis Hassabis og Elon Musk har alle svaret, Microsofts Satya Nadella har bakket op om »bevidst tempo«, og OpenAI bekræftede mandag, at selskabet i ugevis har ført sikkerhedssamtaler med Anthropic og Google.
Huangs holdning er den skarpeste offentlige afvisning af det argument fra en virksomhed midt i udbygningen. Nvidia sælger de chips, hvert af disse laboratorier træner på, og en langsommere front er blandt andet en mindre ordrebog.
Hvad han foreslår og ikke foreslår
Det er værd at være præcis. Huang hævder ikke, at AI-systemer er sikre som udgangspunkt. Han hævder, at den disciplin, der gør dem sikre, er den samme, som gør ethvert andet hardware- og softwareprodukt sikkert — test, evaluering, trinvis udrulning — og at en virksomhed, der ikke kan indestå for et system, bør holde det tilbage af egen drift frem for efter lovens ordre.
Modargumentet, som ugens essays og høringer alle har kredset om, er, at tilskyndelsen til at holde et system tilbage er svagest netop når en konkurrent er ved at udsende sit. Huangs svar er, at markedet straffer en dårlig udgivelse. Om det sker hurtigt nok, er spørgsmålet, ingen på Dreamforce afgjorde.
Hvor dette lander i Washington
Udtalelserne kom samme dag, som senator Bernie Sanders og Steve Bannon delte scene ved en »Pro-Human Assembly« få karreer fra Det Hvide Hus, og dagen før senator John Kennedy skal fremsætte et lovforslag, der kræver, at AI-udviklere bygger nedlukningsmekanismer ind i deres systemer.
Præsident Trump har brugt ugen på at afvise argumenterne for tilbageholdenhed og kaldt opfordringen til at bremse AI en sammensværgelse og et fupnummer. I spørgsmålet om ny lov står Huang og administrationen på samme side; i spørgsmålet om, hvorvidt risikoen er reel, er de næppe i samme samtale.
Hvad der bør følges
Nvidia aflægger regnskab igen i november, og afstanden mellem hvad topchefen siger om tempo, og hvad prognoserne forudsætter om efterspørgslen, bliver værd at læse side om side. Den nærmeste prøve ligger i Senatet: Kennedys lovforslag, Sanders’ lovede forbud mod superintelligens og Thune–Klobuchar-arbejdet med at standse usikre modeller stiller alle »ingen nye love«-holdningen op mod noget konkret.
