Vad rapporten hävdar
En arbetsrapport från Cambridgeprogrammet för AI-vetenskap och politik frågar vad som händer om bolagen som bygger AI lyckas automatisera arbetet med att bygga den. Titeln är själva frågan: Vad händer om automatiserad AI-forskning utlöser en intelligensexplosion?
En intelligensexplosion är, som rapporten definierar den, “en dramatisk AI-driven acceleration av AI-utvecklingen, som pressar ihop framsteg som annars skulle ta år till månader eller mindre”. Författarna påstår inte att det kommer att ske. De hävdar att belägget för att det kan ske nu är starkt nog att det vore för sent att förbereda sig efteråt, eftersom utvecklingen under en explosion skulle springa ifrån vanligt politiskt arbete.
Underskrifterna är det som gör detta svårt att avfärda som opinionsbildning. Tjugotvå författare, bland dem OpenAI:s chefsforskare Jakub Pachocki, Anthropics medgrundare Jack Clark, Microsofts chefsforskare Eric Horvitz, Dawn Song vid Berkeley, samt Turingpristagarna Geoffrey Hinton, Yoshua Bengio och Andrew Barto.
Beläggen de åberopar
Det mesta kommer från labben själva. Rapporten citerar Anthropic som uppger att AI-systemens andel av godkänd kod steg från låga ensiffriga tal till över 80 procent mellan januari 2025 och maj 2026, och att andelen forskningsarbete som utfördes självständigt med bara övergripande mänsklig tillsyn gick från 1 till 26 procent mellan mars och augusti 2026.
OpenAI citeras säga att AI-stöd används “i praktiskt taget alla delar av bolaget”, med kodkörande agenter i träning, utvärdering och säkring av framtida modeller. Google uppger att AI används i “nästan allt arbete som rör att skriva kod eller konfiguration, teknisk design och forskningsidéer”.
Mekanismen rapporten beskriver är en slinga: AI-system förstorar den effektiva forskarstyrkan, den styrkan producerar bättre system, och de förstorar den igen. Friktionerna är verkliga — beräkningsgränser, träningskörningar som tar tid, uppgifter som motstår automatisering — men författarna hävdar att mjukvaruframsteg återkopplar nästan omedelbart, medan hårdvaruvinster väntar på år av byggande.
Vad de vill att politiken gör
Tre saker, i ordning. Skaffa insyn i hur mycket AI-forskning som är automatiserad inne i frontbolagen. Utveckla sätt att styra takten och begränsa en upptrappning. Förbereda samhället för effekterna.
Detaljerna är ovanligt konkreta för en text med författare från branschen. Standardiserad rapportering av indikatorer för automatiserad forskning till stater och externa revisorer. Ackrediterade revisorer eller statliga utvärderingsorgan som granskar system före intern driftsättning, eller som placeras inne i vissa bolag för att granska eller övervaka deras forskning, efter modell från den amerikanska kärnkraftsmyndigheten och banktillsynen. Gränser för hur mycket förmågorna får öka under en given period. Tillsyn över datacenter som kör automatiserad forskning, med förberedda möjligheter att pausa enskilda arbetslaster. Och ett krav att vissa utvärderingar körs på fysiskt isolerade nät, för att hindra att vikter läcker och för att innesluta system som försöker ta sig ut.
Författarna namnger också det uppenbara missbruket: en illa skriven mekanism kan låta en regering bromsa forskningen hos alla bolag utom ett gynnat.
Vad som är värt att följa
Detta är en arbetsrapport, inte ett förslag med avsändare i lagstiftningen. Det att följa är om rapporteringsindikatorerna den skissar dyker upp i något bindande instrument — en nationell rapporteringsregel, ett licensvillkor, en klausul i nästa omgång av EU-tillämpning — och om de labb vars forskare skrivit under är villiga att redovisa indikatorerna innan de tvingas.
