Från tankeexperiment till färdplan
Frågan om AI-system kommer att börja förbättra sig själva har slutat vara hypotetisk och börjat dyka upp i bolagens planer med datum på, rapporterade Fortune på lördagen.
OpenAI har satt i drift vad bolaget kallar en automatiserad forskningspraktikant, ett system som enligt företaget klarar uppgifter som skulle ta en skicklig mänsklig forskare ett par dagar. Bolaget siktar på mars 2028 för en helt automatiserad AI-forskare. Det har också uppgett att det ännu inte vet hur en fullständig och linjerad rekursiv självförbättring ska nås på ett säkert sätt, och att det inte kan utgå från att framstegen inom linjering och säkerhet håller samma takt som förmågan.
Det är ett ovanligt par av påståenden att publicera tillsammans: ett måldatum för en förmåga, och ett erkännande att det säkerhetsproblem som hänger ihop med den är olöst.
Olika labb, olika destinationer
Elon Musk har beskrivit läget på xAI annorlunda. Människor är allt mindre inblandade i att förbättra Grok, har han sagt, där varje ny modell byggs av den föregående, och bolaget siktar på full automatisering senast vid utgången av 2027.
Anthropic ligger mellan de två. Bolaget uppger att Claude nu leder ungefär en fjärdedel av dess modellforskning och kan genomföra komplext tekniskt arbete från början till slut utifrån en övergripande instruktion under mänsklig tillsyn — samtidigt som det separat argumenterar för att hålla igen takten och säger att det skulle sakta ned eller pausa sitt eget arbete om konkurrenterna gjorde detsamma på ett verifierbart sätt.
Microsofts Mustafa Suleyman har formulerat målet som en humanistisk superintelligens: system med hög grad av självständighet som förblir, med hans ord, kalibrerade och inom gränser. Det är ett påstående om var gränsen bör gå, inte om när den nås.
Invändningen och förbehållet
Anthony Aguirre, ordförande för Future of Life Institute och professor i fysik vid University of California, Santa Cruz, sade till Fortune att full självständighet “förmodligen är den sämsta idén i mänsklighetens historia”.
John Thickstun, professor i datavetenskap vid Cornell, gav förbehållet från andra hållet: AI har i åratal hjälpt till att bygga AI i stödjande roller, och gränsen mellan en användbar forskningsassistent och ett självförbättrande system dras i grad, inte i art.
Båda sakerna är sanna samtidigt, och det är det som gör datumen svårlästa. En automatiserad forskare som sluter en slinga människor sluter i dag är en fortsättning på befintlig praxis. En automatiserad forskare som sätter sin egen forskningsagenda är det inte. Bolagens tidsplaner skiljer inte alltid på de två.
Att hålla ögonen på
Den konkreta siffra som är värd att följa är OpenAI:s mål i mars 2028, eftersom det är det enda som knyts till en definierad sak och inte till en trend. Den andra är om labben publicerar de utvärderingar de använder för att avgöra att ett system gått från assistent till självständig forskare — tröskeln som skulle göra något av dessa datum kontrollerbart utifrån.
