«Vi trenger ingen nye lover»
Nvidias toppsjef Jensen Huang sa tirsdag til publikum på Salesforce-konferansen Dreamforce i San Francisco at kunstig intelligens ikke trenger ny regulering, og at selskapene som bygger den bør betros å passe på seg selv.
«Sikkerhet er et teknisk problem, ikke et juridisk», sa Huang ifølge TechCrunch, som gjenga uttalelsene. Han la til: «Vi trenger ingen nye lover. Vi trenger ingen nye reguleringer.» Oppskriften hans for et selskap som er usikkert på et system, var enkel: «Hvis du ikke stoler på funksjonen, evnen eller sikkerheten — ikke slipp det.»
Huang avviste også bildet av at fart og sikkerhet står mot hverandre, kalte valget mellom å gå fort og å gå forsiktig falskt, og sa at arbeidet som faktisk betyr noe, er å bygge testmiljøene der systemene vurderes.
Den andre siden av argumentet var i samme bygning
Tidspunktet var ikke tilfeldig. Anthropic-sjef Dario Amodei opptrådte også på Dreamforce, fire dager etter at han publiserte et essay der han ber frontlaboratoriene bremse i fellesskap for å unngå katastrofal risiko. Teksten har dominert sektoren siden lørdag: Sam Altman, Demis Hassabis og Elon Musk har alle svart, Microsofts Satya Nadella har støttet «bevisst tempo», og OpenAI bekreftet mandag at selskapet i ukevis har ført sikkerhetssamtaler med Anthropic og Google.
Huangs standpunkt er den skarpeste offentlige avvisningen av det argumentet fra et selskap midt i utbyggingen. Nvidia selger brikkene hvert av disse laboratoriene trener på, og en langsommere front er blant annet en mindre ordrebok.
Hva han foreslår og ikke foreslår
Det er verdt å være presis. Huang hevder ikke at KI-systemer er trygge som utgangspunkt. Han hevder at disiplinen som gjør dem trygge, er den samme som gjør et hvilket som helst annet maskin- og programvareprodukt trygt — testing, evaluering, trinnvis lansering — og at et selskap som ikke kan gå god for et system, bør holde det tilbake av eget valg heller enn etter lovens pålegg.
Motargumentet, som ukens essayer og høringer alle har kretset rundt, er at insentivet til å holde tilbake et system er svakest nettopp når en konkurrent er i ferd med å slippe sitt. Huangs svar er at markedet straffer en dårlig lansering. Om det skjer raskt nok, er spørsmålet ingen på Dreamforce avgjorde.
Hvor dette lander i Washington
Uttalelsene kom samme dag som senator Bernie Sanders og Steve Bannon delte scene på en «Pro-Human Assembly» noen kvartaler fra Det hvite hus, og dagen før senator John Kennedy skal legge fram et lovforslag som krever at KI-utviklere bygger avstengingsmekanismer inn i systemene sine.
President Trump har brukt uken på å avvise argumentene for tilbakeholdenhet og kalt oppfordringen om å bremse KI en konspirasjon og en bløff. I spørsmålet om ny lov står Huang og administrasjonen på samme side; i spørsmålet om risikoen er reell, er de knapt i samme samtale.
Hva som bør følges
Nvidia legger fram tall igjen i november, og avstanden mellom det toppsjefen sier om tempo og det prognosene forutsetter om etterspørsel blir verdt å lese side om side. Den nærmeste prøven ligger i Senatet: Kennedys lovforslag, Sanders’ lovede forbud mot superintelligens og Thune–Klobuchar-arbeidet med å stanse utrygge modeller setter alle «ingen nye lover»-holdningen opp mot noe konkret.
