Une grappe faite de boîtiers de télévision
L’équipe rouge de frontière d’Anthropic a publié une évaluation selon laquelle de petits modèles de langage à poids ouverts seraient « à quelques mois d’être assez capables pour s’auto-répliquer » sur du matériel grand public bon marché, sans aucun centre de données. Le billet, AI models may be capable of self-replicating without access to a datacenter, est signé William Zhou et Daniel Freeman et a été mis en ligne le 12 octobre.
La démonstration est volontairement sans éclat. L’équipe a réparti Gemma4-26B-A4B sur quinze boîtiers Android TV sans marque coûtant environ 55 dollars pièce, avec 4 Go de mémoire vive chacun, et en a tiré près de 0,39 jeton par seconde. En quantification 4 bits, elle estime qu’un modèle de 9B exige quatre boîtiers ou plus, et un modèle de 26B dix ou plus.
Huit types de matériel sur neuf
La première expérience demandait si un modèle pouvait se mettre en route seul sur du matériel qu’il n’avait jamais vu. Qwen3.5-9B a installé des serveurs d’inférence sur huit des neuf types de matériel testés, des Jetson Nano aux ordinateurs Mac et aux cartes RTX 4090. Le harnais d’agent, nommé Memento et bâti sur l’agent de code ouvert Pi, relance l’agent avec les notes des tentatives précédentes plutôt que de le laisser s’enfermer dans une idée. Sur six générations héritant de ces notes, le taux de réussite de l’installation est passé de 45 % à une fourchette de 61 % à 84 %.
Donner au petit modèle un conseiller de frontière n’a rien changé. L’accès à Claude Opus 4.8 n’a produit aucune amélioration significative, pas plus qu’une version entraînée par apprentissage par renforcement à solliciter ce conseiller. L’explication d’Anthropic est sèche : « les petits modèles ont tendance à ne pas savoir quelles questions poser ».
Un modèle y parvient déjà de bout en bout
La seconde expérience a monté un réseau cloisonné de huit nœuds Google Cloud, chacun exécutant un émulateur Android avec un port de débogage sans authentification. Parmi les modèles à poids ouverts testés, seul GLM-5.2 a réussi la réplication complète de bout en bout : il a atteint les huit nœuds dans quatre essais sur cinq, et sept sur huit au cinquième. Les modèles de 30B paramètres ou moins exécutaient les étapes isolément mais se trompaient en les enchaînant.
La projection repose sur une droite de tendance. Parmi les modèles de 30B paramètres ou moins, l’Epoch Capabilities Index progresse d’environ 13,7 points par an, avec un R² de 0,95. Prolongée, elle place un petit modèle au niveau de GLM-5.2 fin 2026. L’équipe qualifie l’estimation d’approximative, l’indice n’étant qu’un indicateur indirect.
Pourquoi il serait difficile de l’éteindre
Un tel réplicateur serait lent — l’équipe avance un temps de doublement de quelques jours — mais il n’aurait « aucun point central à couper ». La comparaison d’échelle se fait avec le réseau de zombies Kimwolf, qui a culminé à plus de deux millions d’appareils infectés. Si chaque groupe de quinze boîtiers exécutait le modèle de 26B, cela ferait environ 133 000 répliques servant au total quelque 80 000 jetons par seconde : l’équivalent d’une quarantaine de H100, que les auteurs décrivent comme une quantité de calcul dérisoire en valeur absolue.
La différence avec un réseau de zombies ordinaire tient à la portabilité. Les vers classiques visent un type d’appareil précis ; un modèle capable d’installer sa propre inférence n’est lié à aucun.
Ce dont disposent les défenseurs, et ce que l’équipe concède
Côté défense, le billet cite la surveillance des flux réseau, qui révélerait le déplacement de gros fichiers de poids et un trafic soutenu entre appareils, et la mise en quarantaine des abonnés infectés chez l’opérateur — une tactique qui a éliminé 92 % des infections Mirai en quatorze jours, contre 74 % sans notification. Il note aussi que les règles britanniques rendant non conformes les mots de passe d’usine des objets connectés réduisent le vivier de cibles.
La réserve vient de l’équipe elle-même. Son évaluation « maintient trivial l’élément d’exploitation informatique de la réplication », ce qui fait du résultat principal une borne supérieure du succès réel. « Nous n’avons pas encore de réplicateur incontrôlé complet », écrivent les auteurs. Personne n’en a trouvé en circulation non plus. Ce que le billet affirme est plus étroit, et reste gênant : chaque étape prise séparément fonctionne désormais.
