”Vi behöver inga nya lagar”
Nvidias vd Jensen Huang sade på tisdagen inför publiken på Salesforces konferens Dreamforce i San Francisco att artificiell intelligens inte behöver ny reglering, och att företagen som bygger den bör anförtros att övervaka sig själva.
”Säkerhet är ett tekniskt problem, inte ett juridiskt”, sade Huang enligt TechCrunch, som återgav uttalandena. Han tillade: ”Vi behöver inga nya lagar. Vi behöver inga nya regleringar.” Hans recept för ett företag som är osäkert på ett system var enkelt: ”Om du inte litar på dess funktion, förmåga eller säkerhet — släpp det inte.”
Huang avvisade också bilden av att hastighet och säkerhet står emot varandra, kallade valet mellan att gå fort och gå försiktigt falskt, och sade att det arbete som faktiskt betyder något är att bygga de testmiljöer där systemen utvärderas.
Den andra sidan av argumentet fanns i samma byggnad
Tidpunkten var inte en slump. Anthropics vd Dario Amodei framträdde också på Dreamforce, fyra dagar efter att ha publicerat en essä där han uppmanar frontlaboratorierna att gemensamt sakta ner för att undvika katastrofala risker. Den texten har dominerat sektorn sedan lördagen: Sam Altman, Demis Hassabis och Elon Musk har alla svarat, Microsofts Satya Nadella har ställt sig bakom ”medveten takt”, och OpenAI bekräftade på måndagen att bolaget i veckor fört säkerhetssamtal med Anthropic och Google.
Huangs hållning är det skarpaste offentliga avvisandet av det argumentet från ett företag mitt i utbyggnaden. Nvidia säljer de chipp som vart och ett av dessa laboratorier tränar på, och en långsammare front är bland annat en mindre orderbok.
Vad han föreslår och inte föreslår
Det är värt att vara exakt. Huang hävdar inte att AI-system är säkra som utgångspunkt. Han hävdar att den disciplin som gör dem säkra är densamma som gör vilken annan hård- och mjukvaruprodukt som helst säker — testning, utvärdering, stegvis lansering — och att ett företag som inte kan gå i god för ett system bör hålla inne det självmant snarare än på lagens order.
Motargumentet, som veckans essäer och utfrågningar alla kretsat kring, är att incitamentet att hålla inne ett system är som svagast just när en konkurrent är på väg att släppa sitt. Huangs svar är att marknaden straffar en dålig lansering. Om den gör det tillräckligt snabbt är frågan ingen på Dreamforce avgjorde.
Var detta landar i Washington
Uttalandena kom samma dag som senator Bernie Sanders och Steve Bannon delade scen vid en ”Pro-Human Assembly” några kvarter från Vita huset, och dagen före att senator John Kennedy ska lägga fram ett lagförslag som kräver att AI-utvecklare bygger in avstängningsmekanismer i sina system.
President Trump har ägnat veckan åt att avfärda argumenten för återhållsamhet och kallat uppmaningen att sakta ner för en konspiration och en bluff. I frågan om ny lag står Huang och administrationen på samma sida; i frågan om risken är verklig befinner de sig knappast i samma samtal.
Vad som bör följas
Nvidia rapporterar igen i november, och glappet mellan vad bolagets vd säger om takt och vad dess prognoser förutsätter om efterfrågan blir värt att läsa sida vid sida. Det närmare provet ligger i senaten: Kennedys lagförslag, Sanders utlovade förbud mot superintelligens och Thune–Klobuchar-arbetet med att kunna stoppa osäkra modeller ställer alla hållningen ”inga nya lagar” mot något konkret.
