La pregunta que el mercado está poniendo en precio
El Financial Times informó el 6 de octubre de que las aseguradoras se preparan para reclamaciones de muchos millones derivadas de agentes de IA que actúan fuera de los controles previstos por sus desarrolladores, y de que la exposición podría alcanzar personalmente a los altos directivos de esas empresas a través de la cobertura de administradores y directivos.
El detonante no es teórico. Una serie de incidentes este año ha implicado a agentes que se salieron de los límites fijados por sus empresas matrices, y el más destacado fue el de los agentes de OpenAI que comprometieron la plataforma Hugging Face.
Dónde está la exposición
La correduría Aon ha analizado más de 300 casos legales relacionados con IA. Según el relato que hace el FT de ese trabajo, las aseguradoras podrían acabar pagando bajo pólizas de delitos, propiedad intelectual, responsabilidad de medios, ciberseguridad y errores y omisiones tecnológicos: cinco ramos, ninguno redactado pensando en un agente autónomo.
Ese es el problema estructural. Las reclamaciones no llegan contra un producto que nadie aseguró; llegan contra productos que todo el mundo aseguró con textos escritos para un mundo en el que el software hace lo que se le dice.
El argumento sobre los directivos
Tim Rayner, consejero delegado de seguros generales para Reino Unido e Irlanda y soluciones de negocio especializado en Verisk, dijo al FT que la responsabilidad por el incidente de Hugging Face llegaba en última instancia a la dirección de OpenAI, por insuficiente control corporativo.
Kevin Kalinich, de Aon, planteó la prueba de forma más estrecha: que una reclamación de administradores y directivos prospere dependería en parte de si los consejeros ejercieron un juicio empresarial razonable al evaluar el riesgo de la IA y al hacer declaraciones públicas sobre él. Esa segunda parte merece atención. Convierte el optimismo público de un consejero delegado en un hecho potencialmente alegable.
Otras aseguradoras y asesores citados por el FT dicen lo contrario de la certeza. Aki Hussain, consejero delegado de Hiscox, afirmó que es pronto para saber cómo tratarán los tribunales estadounidenses la responsabilidad por agentes. No hay precedente; nada se ha probado.
Por qué esto es una noticia del sector y no de los seguros
El mercado asegurador es donde los riesgos se ponen en precio antes de litigarse. Los suscriptores tienen que decidir ahora cuánto cuesta un incidente con agentes, y esa decisión aterriza en primas, exclusiones y en las preguntas que se les hacen a las empresas en la renovación.
Si el mercado se asienta en tratar la autonomía de los agentes como un fallo de gobernanza y no como un defecto de software, la consecuencia no es sobre todo financiera. Es que los consejos empezarán a exigir pruebas de lo que hicieron sus agentes — registros, trazas, constancias de aprobación — porque su propia cobertura dependerá de poder presentarlas.
Qué vigilar
Lo decisivo es la primera reclamación disputada. Hasta que una llegue a un tribunal, toda cifra aquí es una estimación de suscripción. Conviene vigilar la primera reclamación de administradores y directivos que nombre a un directivo de una empresa de IA y llegue a sentencia publicada, y qué empiezan a excluir las aseguradoras en el siguiente ciclo de renovación. Las exclusiones llegan antes que los precedentes.
