La ronda
The Artificial Intelligence Underwriting Company, conocida como AIUC, ha recaudado 40 millones de dólares en una ronda de serie A liderada por Ribbit Capital, con la participación de First Harmonic, anunció la empresa el martes. Con ella, su financiación total asciende a 55 millones, tras una ronda semilla de 15 millones.
AIUC fue fundada por Rune Kvist, uno de los primeros empleados de Anthropic, y Rajiv Dattani, antiguo director de operaciones de METR, una organización de evaluación de IA, informó TechCrunch. La ronda semilla procedió del fondo NFDG de Nat Friedman, Emergence, Terrain y Ben Mann, cofundador de Anthropic, según TechCrunch.
Qué vende
El producto de AIUC es un estándar para agentes de IA, AIUC-1, junto con las auditorías y los seguros construidos sobre él. TechCrunch lo comparó con SOC 2, la certificación que usan las empresas de software para mostrar a sus clientes sus controles de seguridad. AIUC afirma que el estándar se elaboró con más de 250 responsables de seguridad y riesgos y que evalúa “5.000 combinaciones de riesgo y ataque específicas de cada tipo de negocio”.
En la práctica, según TechCrunch, un agente pasa por unas 5.000 pruebas sobre jailbreaks, alucinaciones y fugas de datos. Agentes de IA ejecutan las pruebas y analizan los datos, personas verifican la auditoría final y el resultado es un informe de unas 100 páginas que expone dónde el agente funciona de forma segura y dónde hay motivos de preocupación.
AIUC cita a Cursor, ElevenLabs, Harvey, KPMG, Lovable, UiPath y Fin entre las empresas con las que trabaja. En su web afirma que ElevenLabs obtuvo el primer seguro para agentes de IA respaldado por la certificación AIUC-1 y que KPMG fue la primera de las Big Four en conseguir la certificación.
De los agentes a los modelos de frontera
La empresa dijo que el nuevo capital “ayudará a extender nuestras auditorías, normas y seguros de los agentes a los modelos de frontera para crear un ecosistema sólido de supervisión de la frontera”.
El momento sitúa a AIUC junto a un debate político en marcha. Ese mismo día, OpenAI dijo que apoya la parte de la ley FRONTIER de la Cámara de Representantes que exigiría verificación independiente de seguridad en los laboratorios de frontera, informó TechCrunch. AIUC no ha dicho que pretenda actuar como verificador bajo esa ley, que además no ha sido aprobada.
Por qué unir auditorías y seguros
El argumento de los fundadores, tal como lo recogió TechCrunch, es que a las grandes organizaciones no las frena tanto lo que pueden hacer los modelos de IA como la imposibilidad de garantizar lo que un agente hará y no hará. Una auditoría fija un listón; una póliza de seguro pone dinero detrás.
Qué vigilar
AIUC no ha nombrado a ningún laboratorio de frontera que haya sometido un modelo a sus auditorías, ni ha revelado cuánta cobertura de seguro ha suscrito. Ambos datos mostrarían si el paso de los agentes a los modelos de frontera es algo más que un plan.
