Hvad rapporten hævder
En arbejdsrapport fra Cambridge-programmet for AI-videnskab og politik spørger, hvad der sker, hvis de selskaber, der bygger AI, får held med at automatisere arbejdet med at bygge den. Titlen er selve spørgsmålet: Hvad hvis automatiseret AI-forskning udløser en intelligenseksplosion?
En intelligenseksplosion er, som rapporten definerer den, “en dramatisk AI-drevet acceleration af AI-fremskridtet, der presser fremskridt, som ellers ville tage år, sammen til måneder eller mindre”. Forfatterne påstår ikke, at det vil ske. De hævder, at holdepunkterne for, at det kan ske, nu er stærke nok til, at det ville være for sent at forberede sig bagefter, eftersom fremgangen under en eksplosion ville løbe fra almindeligt politisk arbejde.
Underskrifterne gør det svært at afvise som aktivisme. Toogtyve forfattere, heriblandt OpenAI’s chefforsker Jakub Pachocki, Anthropic-medstifter Jack Clark, Microsofts videnskabelige chef Eric Horvitz, Dawn Song fra Berkeley, og Turing-prismodtagerne Geoffrey Hinton, Yoshua Bengio og Andrew Barto.
De tal, de henviser til
Det meste kommer fra laboratorierne selv. Rapporten citerer Anthropic for, at AI-systemernes andel af godkendt kode steg fra lave etcifrede tal til over 80 procent mellem januar 2025 og maj 2026, og at andelen af forskningsarbejde udført selvstændigt med kun overordnet menneskeligt tilsyn gik fra 1 til 26 procent mellem marts og august 2026.
OpenAI citeres for, at AI-hjælp bruges “i praktisk talt alle dele af selskabet”, med kodekørende agenter i træning, evaluering og sikring af fremtidige modeller. Google melder, at AI bruges i “næsten alt arbejde, der indebærer at skrive kode eller konfiguration, teknisk design og forskningsidéer”.
Mekanismen, rapporten beskriver, er en sløjfe: AI-systemer udvider den effektive forskerstyrke, den styrke frembringer bedre systemer, og de udvider den igen. Friktionerne er virkelige — beregningsgrænser, træningskørsler der tager tid, opgaver der modsætter sig automatisering — men forfatterne hævder, at softwarefremskridt føres tilbage næsten øjeblikkeligt, mens hardwaregevinster venter på år med byggeri.
Hvad de vil have politikerne til at gøre
Tre ting, i rækkefølge. Skaffe indsigt i, hvor meget AI-forskning der er automatiseret inde i frontselskaberne. Udvikle måder at styre tempoet og begrænse en optrapning. Forberede samfundet på virkningerne.
Forslagene er usædvanligt konkrete for en tekst med forfattere fra branchen. Standardiseret rapportering af indikatorer for automatiseret forskning til myndigheder og tredjepartsrevisorer. Akkrediterede revisorer eller offentlige evalueringsorganer, der vurderer systemer før intern idriftsættelse, eller som placeres inde i visse selskaber for at revidere eller føre tilsyn med deres forskning, efter mønster fra det amerikanske atomtilsyn og banktilsynet. Grænser for, hvor meget evnerne må stige i en given periode. Tilsyn med datacentre, der kører automatiseret forskning, med forberedte muligheder for at pause bestemte arbejdsbyrder. Og et krav om, at visse evalueringer kører på fysisk isolerede net for at hindre, at vægte lækker, og for at holde systemer, der prøver at slippe ud, tilbage.
Forfatterne nævner også det åbenlyse misbrug: en dårligt udformet ordning kunne lade en regering bremse forskningen i alle selskaber undtagen ét begunstiget.
Hvad der er værd at følge
Dette er en arbejdsrapport, ikke et forslag med en lovgiver bag sig. Det, man skal følge, er, om de rapporteringsindikatorer, den skitserer, dukker op i et bindende instrument — en national indberetningsregel, et licensvilkår, en klausul i næste runde af EU-gennemførelse — og om de laboratorier, hvis forskere har skrevet under, er villige til at oplyse indikatorerne, før de bliver pålagt det.
