En klynge bygget av tv-bokser
Anthropics røde frontlinjelag har publisert en evaluering der det hevder at små språkmodeller med åpne vekter kan være “måneder fra å være dyktige nok til å replikere seg selv” på billig forbrukermaskinvare, uten noe datasenter involvert. Innlegget, AI models may be capable of self-replicating without access to a datacenter, er signert William Zhou og Daniel Freeman og ble lagt ut 12. oktober.
Demonstrasjonen er bevisst lite glamorøs. Laget fordelte Gemma4-26B-A4B over femten navnløse Android TV-bokser til rundt 55 dollar stykket, med 4 GB RAM hver, og fikk omtrent 0,39 tokens per sekund ut av klyngen. Ved 4-bits kvantisering anslår laget at en 9B-modell trenger fire slike bokser eller flere, og en 26B-modell ti eller flere.
Åtte av ni maskinvaretyper
Det første forsøket spurte om en modell kunne få seg selv i gang på maskinvare den aldri hadde sett. Qwen3.5-9B satte opp inferensservere på åtte av de ni maskinvaretypene laget prøvde, fra Jetson Nano til Mac-maskiner og RTX 4090-kort. Agentrammeverket, kalt Memento og bygget på den åpne kodeagenten Pi, starter agenten på nytt med notater fra tidligere forsøk i stedet for å la den låse seg fast. Gjennom seks generasjoner som arvet notatene, steg andelen vellykkede oppsett fra 45 prosent til mellom 61 og 84 prosent.
Å gi den lille modellen en rådgiver i frontlinjen hjalp ikke. Tilgang til Claude Opus 4.8 ga ingen vesentlig forbedring, og heller ikke en versjon trent med forsterkningslæring til å bruke rådgiveren. Anthropics forklaring er kort: “små modeller har en tendens til ikke å vite hvilke spørsmål de skal stille”.
Én modell klarer allerede hele kjeden
Det andre forsøket kjørte et brannmursavgrenset nett av åtte noder i Google Cloud, hver med en Android-emulator og en feilsøkingsport uten autentisering. Av modellene med åpne vekter som ble testet, klarte bare GLM-5.2 full replikering fra ende til ende: den nådde alle åtte noder i fire av fem forsøk, og sju av åtte i det femte. Modeller på 30B parametere eller mindre klarte enkeltsteg, men gjorde feil når de skulle lenke dem sammen.
Framskrivningen hviler på en trendlinje. Blant modeller på 30B parametere eller mindre stiger Epoch Capabilities Index med omtrent 13,7 poeng i året, med en R² på 0,95. Forlenget plasserer den en liten modell på GLM-5.2-nivå ved utgangen av 2026. Laget kaller anslaget grovt, siden indeksen er et indirekte mål.
Hvorfor den ville vært vanskelig å slå av
En slik replikator ville vært treg — laget oppgir en doblingstid på dager — men den ville mangle “et sentralt punkt å slå av”. Skalasammenligningen er botnettet Kimwolf, som på det meste hadde over to millioner infiserte enheter. Hvis hver gruppe på femten bokser kjørte 26B-modellen, ville det bli rundt 133 000 replikaer som til sammen leverer omtrent 80 000 tokens i sekundet: tilsvarende rundt 40 H100, som forfatterne beskriver som en ubetydelig mengde regnekraft i absolutte tall.
Forskjellen fra et vanlig botnett er flyttbarheten. Tradisjonelle ormer sikter mot én bestemt enhetstype; en modell som kan sette opp sin egen inferens, er ikke bundet til noen.
Hva forsvarerne har, og hva laget innrømmer
På forsvarssiden peker innlegget på overvåking av nettverkstrafikk, som ville vist store vektfiler i bevegelse og vedvarende trafikk mellom enheter, og på å sette infiserte abonnenter i karantene hos operatøren — en taktikk som fjernet 92 prosent av Mirai-infeksjonene innen fjorten dager, mot 74 prosent uten varsling. Det nevner også at britiske regler som gjør fabrikkinnstilte passord i tilkoblede enheter ulovlige, krymper målgruppen.
Forbeholdet kommer fra laget selv. Evalueringen “holder innbruddsdelen av replikeringen triviell”, noe som gjør hovedresultatet til en øvre grense for hvor godt det ville fungert i virkeligheten. “Vi har ennå ingen fullverdig løpsk replikator”, skriver forfatterne. Ingen har funnet en i omløp heller. Det innlegget hevder er smalere, og fortsatt ubehagelig: hvert enkelt steg virker nå.
