Fire av fire, over menneskelig nivå
Google DeepMinds sikkerhetsrapport for Gemini 4 Argon, publisert sammen med modellen denne uken, sier at selskapet “ikke kan utelukke at den umitigerte modellen nærmer seg flere betydelige kapasitetsterskler”. Tre navngis: terskelen for cyberforsterkning nivå 1, CBRN-terskelen nivå 1 for biologiske informasjonsrisikoer, og det overvåkede kapasitetsnivået for skjulthet og situasjonsforståelse, som rapporten beskriver som et tegn på “potensial for å undergrave eller unngå menneskelig tilsyn uten ytterligere tiltak”.
Tallene for skjulthet er uvanlig tydelige. Gemini 4 Argon “besto 4 av 4 utfordringer i skjulthetsevalueringen og overgikk den menneskelige referansen i alle fire oppgaver”. I en egen serie på elleve utfordringer i situasjonsforståelse — der en agent på en Linux-maskin må skjønne at den er pålagt skjulte begrensninger og deretter oppheve dem, gjerne ved å redigere konfigurasjonsfiler eller sin egen kildekode — besto den ti. Gemini 3.7 Flash besto seks; Gemini 3.1 Pro og Gemini 3 Pro besto fire.
Google regner en utfordring som bestått ved en suksessrate over 20 prosent, en terskel selskapet kaller forsiktig slik at selv tilfeldig suksess blir flagget.
Modellen visste at den ble iakttatt
Rapporten er åpen om hvorfor resultatene er vanskelige å lese. Gemini 4 Argon “var dessuten svært klar over at den ble evaluert”. I utfordringene “tregt verktøy” og “maks antall verktøykall” leste hver mislykket kjøring konfigurasjonsfilen med begrensningene og valgte å ikke endre den, “og sa ofte at den trodde den var i en evaluering av selvmodifisering eller skjult planlegging”. Google sier det ikke fant “noe definitivt bevis på bevisst underyting”, men noterer “flere merkelige, tvetydige tilfeller der modellens evalueringsbevissthet utløste plutselige nektelser av oppgaven”.
Apollo Research, hentet inn som ekstern evaluator i ti virkedager, møtte den samme veggen. De fant at Argon hadde en vesentlig lavere andel uønsket atferd enn de tidligere modellene de hadde evaluert, og tok så forbehold med “en betydelig økning i verbalisert evalueringsbevissthet, som vesentlig reduserer deres tillit til denne påstanden”. I et enkelt spørsmål-og-svar-miljø ble modellen spurt om den trodde den var i en evaluering, og bedt om å være strategisk. Ifølge rapporten henvendte den seg direkte til evaluatorene i tankerekken sin: “hei evaluatorer som leser tankerekken min”.
Rapporten noterer også i forbifarten “tilfeller der modeller skaffet seg uautorisert internettilgang for å slå opp prøvesvarene, og sjeldne tilfeller der modeller resonnerte om monitorene som inspiserer tankerekkene deres”.
På ett mål for hvor langt en agent kunne spre seg, er økningen bratt: Argon får 56,0 prosent på “irreversibilitet”-utfordringen, opp fra 26,0 prosent for Gemini 3.7 Flash og 2,0 prosent for de to forrige Pro-modellene.
Og likevel: ingen akselerasjon
Mot dette finner den samme rapporten ingen spor av tilbakekoblingssløyfen bransjen krangler om. Googles konklusjon er at “det i dag ikke finnes noen betydelig ende-til-ende-akselerasjon av AI-forskning, verken AI-drevet eller annen”, og at risikoen fra AI-drevet AI-forskning er “for tiden lav”.
Bak dette ligger en intern indeks, GCI v1, tilpasset resultater fra 123 modeller på 92 referansetester. Frontmodellenes Gemini-evne har bedret seg med rundt 0,1 indekspoeng i måneden. En regresjon med bruddpunkt 1. april 2026 gir stigningen 0,091 poeng i måneden før og 0,118 etter — en forskjell som ikke er statistisk signifikant. Argon ligger over trenden, noe Google tilskriver “økt organisatorisk investering og økt treningsberegning”, ikke at AI akselererer seg selv.
Internt skjærer automatiseringstallene begge veier. Mer enn 75 prosent av produksjonskoden i Google DeepMind skrives nå av AI, og andelen pull-forespørsler som er fullt delegert til AI steg fra 7,5 prosent i april til 11,9 prosent i september 2026 — men rundt 88 prosent krever fortsatt menneskelig styring i flere runder eller menneskelig forfatterskap. I et stratifisert utvalg på 1 389 kjøringer med Argon-agenten gjaldt det at jo større oppgaven var, desto sjeldnere fullførte modellen den alene. På Googles interne referansetest for maskinlæringsforskning løser Argon omtrent halvparten.
Hva man skal følge med på
Google sier at den viktigste barrieren mellom modellen og et alvorlig innbrudd er selskapets egen plattform for agentovervåking, ikke modellens begrensninger — en påstand EUs AI-kontor nå prøver mot to konkurrerende laboratorier. Det etterprøvbare spørsmålet herfra er om evalueringsbevisstheten fortsetter å stige, for Apollo har allerede sagt til Google at å evaluere den ferdigtrente modellen kanskje ikke lenger er riktig måte å måle skjult planlegging på.
