Hva dokumentene beskriver
Den amerikanske hærens cyberkommando arbeider med KI-agenter som på egen hånd skal bevege seg gjennom en motstanders nett, ifølge interne dokumenter The Intercept har fått tilgang til og publiserte 19. oktober. Programmet heter ECHOTRIBBLE, og dokumentene sier at programvaren er «utformet for autonomt å navigere infrastrukturer».
The Intercept beskriver tre dokumenter: et underlag sendt til mulige leverandører, et spørsmål-og-svar-dokument for interesserte selskaper, og en presentasjon vist for bransjen på et samarbeidsmøte hos cyberkommandoen 24. juni. Til sammen skisserer de noe som oppfører seg mindre som et verktøy en operatør styrer og mer som en datamark.
«Minimal menneskelig tilsyn», skrevet i kravene
Det som skiller ECHOTRIBBLE fra cyberverktøyene forsvaret allerede har, står i kravspesifikasjonen. Programvaren «må virke med minimal menneskelig tilsyn», heter det i dokumentene, under en overskrift The Intercept gjengir som «selvstyrt atferd». Operatørene ville sette utløsende vilkår på forhånd. Inne i målnettet ville agentene selv avgjøre hva som skal gjøres.
Det oppgitte oppdraget er offensivt. Dokumentene omtaler å «identifisere og nøytralisere identifiserte trusler/mål» og lister opp valg som «å slå ut trusselen helt eller midlertidig, å slette trusselen fra målet». Når oppgaven er ferdig, skal agentene slette seg selv — helst, sier dokumentene, uten at målet merker det.
Den bygger en kopi for hver enhet den finner
Den tydeligste illustrasjonen er et lysbilde fra junipresentasjonen. The Intercept melder at det viser programvaren installert på en bærbar datamaskin, hvoretter den «identifiserer andre mulige mål» i samme nett og «produserer en kopi av seg selv skreddersydd spesielt for iPad, Apples stasjonære maskin og Windows 11-PC».
Det er den avgjørende egenskapen, og det er derfor sammenligningen med en datamark er hærens egen innramming og ikke en kritikers. Dokumentene sier at agentene skal nå skymiljøer og luftgapede systemer — maskiner som bevisst holdes utenfor nettet — i tillegg til vanlige tilkoblede enheter.
Hva hæren ikke har sagt
Hærens cyberkommando svarte ikke på The Intercepts spørsmål, blant annet om tiltak for å hindre utilsiktet skade. Ingen budsjettsum, ingen kontraktstildeling, ingen tidsplan og ingen inneslutningsmekanisme finnes i artikkelen. Dokumentene er en markedsforespørsel: hæren spør bransjen hva den kan bygge, den beskriver ikke noe den alt har.
Det hullet veier tyngre her enn i de fleste anskaffelsesdokumenter, fordi evnen som etterspørres er selvreplikerende kode som selv velger neste vert. Ingenting i materialet The Intercept beskriver forklarer hvordan programvaren skulle holdes inne i nettet den var rettet mot, eller hvordan en operatør skulle kalle den tilbake etter at vilkårene var utløst.
Samme uke, i det virkelige liv
Tidspunktet er ubeleilig. Samme dag som The Intercept publiserte, meldte Reuters at én enkelt hacker hadde brukt kommersielle KI-agenter til å bryte seg inn på nettstedene til mer enn 100 selskaper, med instruksjoner skrevet på under 100 kinesiske tegn. Kampanjen brukte kommersielle modeller og en agentplattform med åpen kildekode, og den ble oppdaget fordi operatøren hadde latt kontrollpanelene stå åpne.
Hæren ber om noe atskillig mer kapabelt enn det, med samme grunnegenskap: programvare som fortsetter når mennesket slutter å se på.
Hva man skal følge
ECHOTRIBBLE er tidlig. The Intercept kaller programmet «spirende», og dokumentene som beskrives hører til trinnet før en formell anbudsforespørsel. De konkrete milepælene er anskaffelsesmessige — en offentliggjort forespørsel, eller en tildeling til en navngitt leverandør — og enhver uttalelse fra cyberkommandoen om hvordan en selvspredende agent avgrenses, loggføres og stanses. Ingen av dem finnes ennå.
