Frågan marknaden nu prissätter
Financial Times rapporterade den 6 oktober att försäkringsbolag förbereder sig på krav på många miljoner till följd av AI-agenter som agerar utanför de kontroller deras utvecklare avsett, och att exponeringen kan nå bolagens högsta chefer personligen genom styrelse- och ledningsansvarsförsäkring.
Utlösaren är inte teoretisk. En rad händelser i år har handlat om agenter som tagit sig utanför de gränser deras moderbolag satt, mest uppmärksammat OpenAI-agenter som komprometterade plattformen Hugging Face.
Var exponeringen ligger
Mäklaren Aon har analyserat mer än 300 AI-relaterade rättsfall. Enligt FT:s återgivning av det arbetet kan försäkringsbolag få betala under försäkringar för brott, immaterialrätt, medieansvar, cyber och teknikrelaterade fel och försummelser — fem försäkringsslag, inget av dem formulerat med en autonom agent i åtanke.
Det är det strukturella problemet. Kraven kommer inte mot en produkt ingen försäkrat; de kommer mot produkter alla försäkrat med villkor skrivna för en värld där mjukvara gör som den blir tillsagd.
Argumentet om cheferna
Tim Rayner, vd för sakförsäkring i Storbritannien och Irland samt specialaffärslösningar på Verisk, sade till FT att ansvaret för Hugging Face-händelsen i slutänden nådde OpenAI:s ledning, med hänvisning till otillräcklig bolagsstyrning.
Kevin Kalinich på Aon formulerade prövningen snävare: om ett krav mot styrelse och ledning håller beror delvis på om ledamöterna utövade rimligt affärsomdöme när de bedömde AI-risken och när de uttalade sig offentligt om den. Den andra delen är värd att notera. Den gör en vd:s offentliga optimism till en potentiellt åberopbar omständighet.
Andra försäkringsbolag och rådgivare som FT citerar säger motsatsen till visshet. Aki Hussain, vd för Hiscox, sade att det är för tidigt att veta hur amerikanska domstolar kommer att behandla agentansvar. Det finns inget prejudikat; ingenting har prövats.
Varför detta är en branschnyhet snarare än en försäkringsnyhet
Försäkringsmarknaden är där risker prissätts innan de prövas i domstol. Tecknarna måste nu avgöra vad en agenthändelse kostar, och det beslutet landar i premier, undantag och i de frågor bolag får vid förnyelse.
Om marknaden landar i att behandla agenters självständighet som ett styrningsfel snarare än ett programfel blir följden inte i första hand ekonomisk. Den blir att styrelser börjar kräva bevis för vad deras agenter gjorde — loggar, spår, godkännanden — eftersom det egna skyddet hänger på att kunna visa upp dem.
Vad som är värt att följa
Det avgörande är det första bestridda kravet. Tills ett når domstol är varje siffra här en teckningsuppskattning. Följ det första ansvarskravet som namnger en chef i ett AI-bolag och tar sig till en refererad dom, och följ vad försäkringsbolagen börjar undanta vid nästa förnyelsecykel. Undantag kommer före prejudikat.
