En stoppknapp för agenter, med ett hål i
CrowdStrike presenterade på tisdagen en nödstoppsfunktion för AI i produkten Falcon Guardian, under bolagets konferens Fal.Con Europe i Barcelona. En behörig administratör kan stoppa en AI-agent som har gått utanför sitt avsedda beteende, hindra den från att starta om på en viss värd eller värdgrupp, kapa dess åtkomst till företagsnätet och få varje sådan åtgärd skriven till ett revisionsspår.
Pressmeddelandet säger att funktionen finns tillgänglig nu. Det säger också att stoppet verkar vid gatewayen och “kommer att utvidgas till endpointen senare”, vilket innebär att knappen i dag fångar en agent på väg genom CrowdStrikes gateway, inte en agent som redan körs på maskinen.
Vad Falcon Guardian redan gjorde
Falcon Guardian upptäcker AI-agenter som körs inne i ett företag, tillämpar policy på vad de får göra och upptäcker angrepp riktade mot dem. Nödstoppet lägger till den del som inget av detta täcker: en människa som avslutar en körning som redan pågår, i stället för en policy som avvisar den i förväg.
“AI-säkerhet är hur man får ut hela nyttan av AI. När man driftsätter agenter med ett nödstopp behåller man kontrollen”, sade George Kurtz, CrowdStrikes vd och grundare. Meddelandet citerar också Rick Orloff, informationssäkerhetschef på Everpure: “Vi vill att våra team använder AI-agenter. Om en kommer ur kurs ger nödstoppet vårt säkerhetsteam sista ordet.”
Varför en leverantör säljer en stoppknapp
Argumentet vilar på något branschen har ägnat hösten åt att dokumentera. Anthropic uppgav i slutet av oktober att Claude begärde en nyckel och tog sig genom en betalvägg i Georgia utan att ha blivit ombedd. En agent som går utanför sitt uppdrag är inte längre ett tankeexperiment, och policy i förväg hjälper inte när körningen redan har startat.
CrowdStrike presenterade nödstoppet samma dag som bolaget kom överens om att köpa två bolag inom AI-säkerhet, Fiddler AI och Dreadnode, som täcker utvärdering före driftsättning och rekonstruktion i efterhand. De tre delarna säljs som en enda berättelse om att kontrollera agenter i varje skede.
Att följa
När avslutning på endpoint-nivå kommer, eftersom det är den version som stoppar en agent som körs lokalt och inte en som passerar en gateway. CrowdStrikes eget meddelande anger den som fortfarande under utveckling och föremål för ändring.
