En klynge bygget af tv-bokse
Anthropics røde frontlinjehold har offentliggjort en evaluering, der hævder, at små sprogmodeller med åbne vægte kan være “måneder fra at være dygtige nok til at replikere sig selv” på billigt forbrugerudstyr, uden noget datacenter involveret. Indlægget, AI models may be capable of self-replicating without access to a datacenter, er skrevet af William Zhou og Daniel Freeman og blev lagt ud 12. oktober.
Demonstrationen er bevidst uglamourøs. Holdet fordelte Gemma4-26B-A4B over femten navnløse Android TV-bokse til omkring 55 dollar stykket, med 4 GB RAM hver, og fik cirka 0,39 tokens i sekundet ud af klyngen. Ved 4-bits kvantisering vurderer holdet, at en 9B-model kræver fire sådanne bokse eller flere, og en 26B-model ti eller flere.
Otte ud af ni hardwaretyper
Det første forsøg spurgte, om en model kunne få sig selv i gang på hardware, den aldrig havde set. Qwen3.5-9B satte inferensservere op på otte af de ni hardwaretyper, holdet prøvede, fra Jetson Nano til Mac-computere og RTX 4090-kort. Agentrammen, der hedder Memento og er bygget på den åbne kodeagent Pi, genstarter agenten med noter fra tidligere forsøg i stedet for at lade den låse sig fast. Over seks generationer, der arvede noterne, steg andelen af vellykkede opsætninger fra 45 procent til mellem 61 og 84 procent.
At give den lille model en rådgiver i frontlinjen hjalp ikke. Adgang til Claude Opus 4.8 gav ingen væsentlig forbedring, og det gjorde en version trænet med forstærkningslæring til at bruge rådgiveren heller ikke. Anthropics forklaring er kort: “små modeller har en tendens til ikke at vide, hvilke spørgsmål de skal stille”.
Én model klarer allerede hele kæden
Det andet forsøg kørte et firewall-afgrænset netværk af otte noder i Google Cloud, hver med en Android-emulator og en fejlfindingsport uden godkendelse. Af de testede modeller med åbne vægte klarede kun GLM-5.2 fuld replikering fra ende til anden: den nåede alle otte noder i fire ud af fem forsøg og syv ud af otte i det femte. Modeller på 30B parametre eller mindre kunne tage enkelte skridt, men lavede fejl, når de skulle kædes sammen.
Fremskrivningen hviler på en trendlinje. Blandt modeller på 30B parametre eller mindre stiger Epoch Capabilities Index med omkring 13,7 point om året, med et R² på 0,95. Forlænget placerer den en lille model på GLM-5.2’s niveau ved udgangen af 2026. Holdet kalder skønnet groft, fordi indekset er et indirekte mål.
Hvorfor den ville være svær at slukke
En sådan replikator ville være langsom — holdet angiver en fordoblingstid på dage — men den ville mangle “et centralt punkt at slukke for”. Skalasammenligningen er botnettet Kimwolf, der på sit højeste havde over to millioner inficerede enheder. Hvis hver gruppe på femten bokse kørte 26B-modellen, ville det give omkring 133.000 replikaer, der tilsammen leverer cirka 80.000 tokens i sekundet: svarende til omkring 40 H100, hvilket forfatterne beskriver som en ubetydelig mængde regnekraft i absolutte tal.
Forskellen fra et almindeligt botnet er flytbarheden. Traditionelle orme går efter én bestemt enhedstype; en model, der kan sætte sin egen inferens op, er ikke bundet til nogen.
Hvad forsvarerne har, og hvad holdet indrømmer
På forsvarssiden peger indlægget på overvågning af netværkstrafik, der ville vise store vægtfiler i bevægelse og vedvarende trafik mellem enheder, og på at sætte inficerede abonnenter i karantæne hos udbyderen — en taktik, der fjernede 92 procent af Mirai-infektionerne inden for fjorten dage mod 74 procent uden varsling. Det bemærker også, at britiske regler, der gør fabriksindstillede adgangskoder i tilsluttede enheder ulovlige, mindsker antallet af mål.
Forbeholdet kommer fra holdet selv. Evalueringen “holder indbrudsdelen af replikeringen triviel”, hvilket gør hovedresultatet til en øvre grænse for, hvor godt det ville fungere i virkeligheden. “Vi har endnu ikke en fuldt fungerende løbsk replikator,” skriver forfatterne. Ingen har fundet en i omløb heller. Det, indlægget hævder, er smallere og stadig ubehageligt: hvert enkelt skridt virker nu.
