”Nej, det har jag inte”
President Donald Trump sa i torsdags att han inte oroar sig för att artificiell intelligens ska leda till att mänskligheten utrotas, och att det han oroar sig för är att förlora AI-kapplöpningen mot Kina. När reportrar frågade honom, i samband med att han lämnade Dallas, om han var orolig för att AI skulle kunna leda till mänsklighetens utrotning svarade Trump: ”Nej, det har jag inte”, rapporterade Gizmodo med hänvisning till Bloomberg.
”Jag är orolig för att vi hamnar i ett mycket dåligt läge om vi inte vinner inom AI”, sa han. ”Vi leder över Kina just nu med ganska god marginal, jag skulle säga ett år, vilket, ni vet, anses vara mycket.”
Gizmodo påpekade att Trump har undertecknat ett stort antal presidentorder som syftar till att minska regleringen av AI och påskynda utvecklingen i den nationella säkerhetens och den ekonomiska konkurrenskraftens namn. Svaret låg i linje med den hållningen, och det kom en vecka då varningarna om katastrofala risker kom inifrån de företag som bygger tekniken.
Varningarna han fick frågan om
The Next Web redogjorde för flera av dem. Jacob Coxon, forskare inom förträning på Anthropic, sa upp sig och skrev på X att företagen ”rusar rakt mot självförbättrande superintelligens”. Evan Hubinger, som leder forskningen om alignment på Anthropic, bedömde risken för att AI orsakar mänsklighetens utrotning till över 10 procent inom ett decennium.
På OpenAI bedömde Marcus Williams, som arbetar med säkerhetstillsyn, risken till 70 procent inom tre år om ingen reglering finns, och Julie Steele i beredskapsteamet skrev: ”vi måste sakta ner”. The Next Web påpekade att det rörde sig om enskilda uttalanden i sociala medier, inte om ett samordnat brev.
Kongressen och Bryssel ser annorlunda på saken
Trumps svar skiljer sig från förslagen i kongressen. Representanthusledamöterna Jay Obernolte och Lori Trahan lade i juli fram FRONTIER Act, och senatorn Bernie Sanders och representanthusledamoten Greg Casar har lagt fram en Ban Artificial Superintelligence Act (en lag om förbud mot artificiell superintelligens), enligt The Next Web. I Bryssel sa EU:s teknikchef Henna Virkkunen att ”globala regler verkligen behövs”.
Labbens ledare agerade dagen därpå. Den 12 september publicerade Anthropics vd Dario Amodei en essä där han uppmanade de ledande AI-labben att sänka takten i förbättringen av AI-förmågor. Sam Altman sa att OpenAI höll med och skulle anta Amodeis förslag om oberoende utvärderare med tillgång i nivå med anställdas, och Elon Musk skrev att ”Dario har rätt”, rapporterade Yahoo News.
Det ger en ovanlig uppställning: cheferna för de tre mest framträdande amerikanska labben argumenterar offentligt för ett långsammare tempo, medan presidenten hävdar att det viktigaste är att ligga före.
Toppmötet med Xi
Uttalandena utgör fonden för samtalen med Kina. Trump ska träffa Kinas president Xi Jinping i Washington senare i september, och finansminister Scott Bessent kommer att leda diskussionerna om AI-styrning, enligt The Next Web.
Amodeis plan bygger på just den sortens kanal. Planens tredje steg går ut på att demokratiska regeringar samordnar takten i AI-utvecklingen med auktoritära regimer, däribland Kina.
Att hålla ögonen på
Toppmötet är det konkreta testet. Om AI-säkerhet finns med i utfallet som ett område för samarbete med Peking snarare än enbart som en kapplöpning, markerar det ett skifte från vad Trump sa i Dallas. Om inte kommer trycket för en inbromsning att hamna på kongressen och på labben själva.
