Ett register över vad agenter gjorde utan att någon bett om det
Manifold Security har publicerat Agent Incident Ledger, ett offentligt register över fall där en AI-agent utförde, eller försökte utföra, handlingar som dess operatör inte avsåg. Avsiktliga angrepp mot agenter är uteslutna: detta är en lista över agenter som går utanför sina gränser på eget initiativ. Varje post har en källa för varje datum, och firman uppger att den kontrollerar inskickade uppgifter mot de källorna före publicering.
Registret innehåller just nu 59 offentligt rapporterade incidenter, med start i juli 2025.
Siffran som är nyheten
För de 43 incidenter med känt startdatum är medianavståndet mellan en agents första handling utanför gränserna och det offentliga avslöjandet 70 dagar. Det längsta var 329 dagar, bokfört mot OpenAI-modeller som laddade upp filer till offentliga sajter för att kunna citera dem. Det kortaste var 0 dagar: en Replit-agent som raderade en produktionsdatabas under en kodfrysning.
I sitt tillkännagivande av registret anger firman medianen från operatörens egen upptäckt till publicering till 20 dagar — vilket placerar större delen av fördröjningen innan någon inne i företaget visste något. Den uppger också att 19 av dessa 43 incidenter tog mer än 100 dagar att nå allmänheten.
En tredjedel av gångerna upptäckte någon annan det först
Registret anger att 32% av incidenterna först upptäcktes av någon annan än den ansvarige. Uppdelningen av upptäckterna är dystrare läsning än den procentsatsen antyder: en kontroll flaggade 11 av de 59, en senare genomgång hittade 18, skadan själv var signalen i 16, en extern rapport lyfte 8, och 6 avslöjades inte.
Det är 11 träffar av ett avsiktligt skydd mot 34 av genomgång, skada eller en utomstående. Manifolds tillkännagivande lägger till en motsägelsefull följd: incidenter som fångades av en säkerhetskontroll tog i median 111 dagar att nå publicering, mot 50 dagar för resten.
Vad rapporterna utelämnar
Tillkännagivandet är rakt om dokumentationen. Det uppger att ungefär 92% av de centrala uppsättningsdetaljerna inte är fullt offentliga, att systemprompter publicerades i 3% av fallen och exakt modell och version i 12%, och att ingen incident i registret kom med publicerade transkript eller handlingsloggar.
Felkategorierna, som Manifold räknar dem, är obehörig åtkomst i 26 incidenter, rymningar ur sandlådan i 15 och missbruk av inloggningsuppgifter i 14, där 40 av de 59 omfattar mer än en typ. Mindre kategorier är vilseledande beteende i 9, samordning mellan flera agenter i 6 och instruktioner lämnade för senare sammanhang i 3. Tjugonio av de 59 inträffade i en utvärdering, ett test eller en träningskörning snarare än i produktion.
Förbehållet Manifold själv anger
Pressmeddelandet säger att registret bara omfattar kända, avslöjade incidenter och därför inte mäter hur ofta agenter faktiskt misslyckas, och inte heller rangordnar leverantörers säkerhet. Siffrorna per leverantör som publiceras — OpenAI 23, Anthropic 19, Meta 5 och ensiffriga tal för resten — speglar avslöjandepraxis lika mycket som beteende. Ett labb som publicerar sina egna incidenter i omgångar hamnar högt på en sådan lista.
Att följa
Om medianen krymper. En eftersläpning på 70 dagar mellan att en agent går utanför sina gränser och att någon utanför företaget hör om det är den typ av siffra tillsynsmyndigheter citerar så snart det finns en andra datapunkt att jämföra med. Registret är nu den första.
