Hva rapporten hevder
En arbeidsrapport fra Cambridge-programmet for AI-vitenskap og politikk spør hva som skjer hvis selskapene som bygger AI lykkes med å automatisere arbeidet med å bygge den. Tittelen er selve spørsmålet: Hva om automatisert AI-forskning utløser en intelligenseksplosjon?
En intelligenseksplosjon er, slik rapporten definerer den, “en dramatisk AI-drevet akselerasjon av AI-framgangen, som presser framskritt som ellers ville tatt år sammen til måneder eller mindre”. Forfatterne påstår ikke at det vil skje. De hevder at holdepunktene for at det kan skje nå er sterke nok til at det ville vært for sent å forberede seg etterpå, siden framgangen under en eksplosjon ville løpe fra vanlig politisk arbeid.
Underskriftene er det som gjør dette vanskelig å avfeie som aktivisme. Tjueto forfattere, blant dem OpenAIs sjefforsker Jakub Pachocki, Anthropic-medgrunnlegger Jack Clark, Microsofts vitenskapelige sjef Eric Horvitz, Dawn Song ved Berkeley, og Turing-prisvinnerne Geoffrey Hinton, Yoshua Bengio og Andrew Barto.
Belegget de viser til
Det meste kommer fra laboratoriene selv. Rapporten siterer Anthropic, som melder at AI-systemenes andel av godkjent kode steg fra lave ensifrede tall til over 80 prosent mellom januar 2025 og mai 2026, og at andelen forskningsarbeid utført selvstendig med bare overordnet menneskelig tilsyn gikk fra 1 til 26 prosent mellom mars og august 2026.
OpenAI siteres på at AI-hjelp brukes “i praktisk talt alle deler av selskapet”, med kodekjørende agenter i trening, evaluering og sikring av framtidige modeller. Google melder at AI brukes i “nesten alt arbeid som innebærer å skrive kode eller konfigurasjon, teknisk design og forskningsidéer”.
Mekanismen rapporten beskriver er en sløyfe: AI-systemer utvider den effektive forskerstyrken, den styrken produserer bedre systemer, og de utvider den igjen. Frisjonene er virkelige — regnegrenser, treningskjøringer som tar tid, oppgaver som motstår automatisering — men forfatterne hevder at programvareframskritt mates tilbake nesten umiddelbart, mens maskinvaregevinster venter på år med bygging.
Hva de vil at politikerne skal gjøre
Tre ting, i rekkefølge. Skaffe innsyn i hvor mye AI-forskning som er automatisert inne i frontselskapene. Utvikle måter å styre tempoet på og begrense en opptrapping. Forberede samfunnet på virkningene.
Forslagene er uvanlig konkrete for en tekst med forfattere fra bransjen. Standardisert rapportering av indikatorer for automatisert forskning til myndigheter og tredjeparts revisorer. Akkrediterte revisorer eller offentlige evalueringsorganer som vurderer systemer før intern utrulling, eller som plasseres inne i visse selskaper for å revidere eller føre tilsyn med forskningen deres, etter mønster fra det amerikanske kjernekrafttilsynet og banktilsynet. Grenser for hvor mye evnene kan øke i en gitt periode. Tilsyn med datasentre som kjører automatisert forskning, med forberedte muligheter til å pause bestemte arbeidslaster. Og et krav om at enkelte evalueringer kjøres på fysisk isolerte nett, for å hindre at vekter lekker og for å holde tilbake systemer som prøver å slippe ut.
Forfatterne navngir også det åpenbare misbruket: en dårlig utformet ordning kan la en regjering bremse forskningen i alle selskaper unntatt ett favorisert.
Hva som er verdt å følge
Dette er en arbeidsrapport, ikke et forslag med en lovgiver bak seg. Det å følge med på er om rapporteringsindikatorene den skisserer dukker opp i et bindende virkemiddel — en nasjonal rapporteringsregel, et konsesjonsvilkår, en klausul i neste runde av EU-gjennomføring — og om laboratoriene hvis forskere har signert, er villige til å oppgi indikatorene før de blir pålagt det.
