Ett labb startar en publikation om sitt eget mål
Google DeepMind lanserade DeepMind Institute den 16 september och beskriver det som en plattform där forskare från Google DeepMind, Google och den bredare forskarvärlden kan publicera idéer om en värld med artificiell generell intelligens.
De tre direktörerna är Shane Legg, bolagets medgrundare och chefsforskare för AGI, som också är redaktör; Demis Hassabis, medgrundare och ordförande; och James Manyika, Googles chef för forskning, labb, teknik och samhälle.
Ramen är medvetet vid. Institutet frågar vad människor kommer att värdera, hur AGI förändrar vad det innebär att vara människa, och hur systemen och de “gemenskaper av agenter” de kommer att bilda ska byggas och styras.
Brasklappen är det intressanta
Institutet slår fast att dess texter “är avsedda som samtalsöppnare, återspeglar författarens egna idéer och forskning och inte ska läsas som Googles officiella hållning”.
Den meningen gör verkligt arbete. Den låter forskare inne i ett bolag med kommersiella intressen i AGI driva ståndpunkter — även restriktiva — utan att argumenten blir företagspolitik eller ett regulatoriskt åtagande.
Vad de fyra första essäerna hävdar
Den inledande samlingen behandlar ekonomisk politik för att hantera AGI-omvälvningar, bevarandet av modellresonemang som människor kan läsa, principer för mänskligt blomstrande och ett ramverk för att utvärdera frontmodeller.
“The case for reasoning transparency” är skriven av Rohin Shah och Anca Dragan. “Economic policy for AGI” av Jacobs och Imas landar i idéer som universellt baskapital. “Principles for a new utopianism” är av Stephen Cave. Hassabis står bakom “A framework for frontier AI and the dawning of a new age”.
Två förslag sticker ut eftersom de går emot branschens vanliga hållning: att begränsa hur ogenomskinliga modeller får vara, och ett USA-lett normorgan för frontmodeller som skulle granska dem frivilligt före lansering.
Var Legg står
Legg sade till Financial Times att Dario Amodeis uppmaning att bromsa takten i frontlanseringar var “intressant i sin riktning” och värd att överväga. Amodei publicerade det argumentet den 12 september.
Legg avvisade också färska påståenden från chefer på Nvidia och OpenAI om att AGI redan är här, och menade att det är för tidigt att säga det. Han stod fast vid sin gamla prognos om 50 procents chans för en minimal AGI till 2028.
Vad som är värt att följa
En essäplattform är billig. Ett normorgan med makt över lanseringar är det inte, och Hassabis har nu offentligt efterlyst ett sådant två gånger på en vecka — på det AI-toppmöte kung Charles kallade till i Skottland, och här.
Frågan är om texterna förblir samtalsöppnare, eller om Google DeepMind till slut antar någon av dem som en hållning bolaget kan hållas till.
