Ett kluster byggt av tv-boxar
Anthropics röda frontlinjelag har publicerat en utvärdering där det hävdar att små språkmodeller med öppna vikter kan vara “månader från att vara kapabla nog att självreplikera” på billig konsumenthårdvara, utan något datacenter inblandat. Inlägget, AI models may be capable of self-replicating without access to a datacenter, är skrivet av William Zhou och Daniel Freeman och lades ut den 12 oktober.
Demonstrationen är medvetet oglamorös. Laget delade upp Gemma4-26B-A4B över femton namnlösa Android-tv-boxar för runt 55 dollar styck, med 4 GB RAM var, och fick ut omkring 0,39 tokens per sekund ur klustret. Vid 4-bitars kvantisering uppskattar laget att en 9B-modell behöver fyra sådana boxar eller fler och en 26B-modell tio eller fler.
Åtta av nio hårdvarutyper
Det första experimentet frågade om en modell kunde få igång sig själv på hårdvara den aldrig sett. Qwen3.5-9B satte upp inferensservrar på åtta av de nio hårdvarutyper laget prövade, från Jetson Nano till Mac-datorer och RTX 4090-kort. Agentramverket, som heter Memento och bygger på den öppna kodagenten Pi, startar om agenten med anteckningar från tidigare försök i stället för att låta den fastna. Över sex generationer som ärvde anteckningarna steg andelen lyckade installationer från 45 procent till mellan 61 och 84 procent.
Att ge den lilla modellen en rådgivare i frontlinjen gjorde ingen skillnad. Tillgång till Claude Opus 4.8 gav ingen signifikant förbättring, och inte heller en version tränad med förstärkningsinlärning att använda rådgivaren. Anthropics förklaring är kort: “små modeller tenderar att inte veta vilka frågor de ska ställa”.
En modell klarar redan hela kedjan
Det andra experimentet körde ett brandväggsavgränsat nät av åtta noder i Google Cloud, var och en med en Android-emulator och en felsökningsport utan autentisering. Av de testade modellerna med öppna vikter klarade bara GLM-5.2 full replikering från början till slut: den nådde alla åtta noder i fyra av fem försök och sju av åtta i det femte. Modeller på 30B parametrar eller mindre klarade enskilda steg men gjorde fel när de skulle kedja ihop dem.
Prognosen vilar på en trendlinje. Bland modeller på 30B parametrar eller mindre stiger Epoch Capabilities Index med omkring 13,7 punkter per år, med ett R² på 0,95. Förlängd placerar linjen en liten modell på GLM-5.2:s nivå i slutet av 2026. Laget kallar uppskattningen grov, eftersom indexet är ett indirekt mått.
Varför den skulle vara svår att stänga av
En sådan replikator skulle vara långsam — laget anger en fördubblingstid på dagar — men den skulle sakna “någon central punkt att stänga av”. Skaljämförelsen görs med botnätet Kimwolf, som som mest hade över två miljoner infekterade enheter. Om varje grupp om femton boxar körde 26B-modellen skulle det bli runt 133 000 repliker som tillsammans levererar omkring 80 000 tokens per sekund: motsvarande ungefär 40 H100, vilket författarna beskriver som en försumbar mängd beräkningskraft i absoluta tal.
Skillnaden mot ett vanligt botnät är rörligheten. Traditionella maskar riktar in sig på en bestämd enhetstyp; en modell som kan sätta upp sin egen inferens är inte bunden till någon.
Vad försvararna har, och vad laget medger
På försvarssidan pekar inlägget på övervakning av nätverksflöden, som skulle visa stora viktfiler i rörelse och ihållande trafik mellan enheter, och på att sätta infekterade abonnenter i karantän hos operatören — en metod som rensade 92 procent av Mirai-infektionerna inom fjorton dagar, mot 74 procent utan avisering. Det noterar också att brittiska regler som gör fabriksinställda lösenord i uppkopplade enheter otillåtna krymper måltavlan.
Reservationen kommer från laget självt. Utvärderingen “håller intrångsdelen av replikeringen trivial”, vilket gör huvudresultatet till en övre gräns för hur väl det skulle fungera i verkligheten. “Vi har ännu ingen fullt fungerande skenande replikator”, skriver författarna. Ingen har hittat någon i omlopp heller. Det inlägget hävdar är smalare och fortfarande obekvämt: varje enskilt steg fungerar nu.
