El tercer texto sobre seguridad en cinco días
OpenAI ha anunciado una alianza con Hacktron, una empresa de seguridad que construye agentes de IA para revisión de código, pruebas de penetración y equipos rojos, para encontrar vulnerabilidades en los propios sistemas de OpenAI. Ingenieros de ambas compañías elegirán juntos las áreas prioritarias que probar, y OpenAI dice que el foco está en cómo sus sistemas interactúan con servicios de terceros.
La frase operativa es la del acceso: OpenAI amplía el acceso de Hacktron a sus modelos de frontera a través de Daybreak Red, el programa con el que la empresa entrega sus modelos de ciberseguridad más capaces a usuarios seleccionados. Es el mismo canal por el que OpenAI viene colocando modelos restringidos entre clientes aprobados, y ahora se extiende a una empresa externa de seguridad ofensiva.
Es el tercer anuncio de seguridad que OpenAI hace en una semana. El 2 de noviembre dijo que investigadores de Cathedral trabajarían junto a sus equipos en su próximo sprint de seguridad, y ese mismo día que elevaba las recompensas de su programa de errores.
Por qué esta empresa
OpenAI dice que conoció a Hacktron a través de su propio programa de recompensas por fallos de seguridad y que le impresionaron las vulnerabilidades que sus investigadores habían encontrado y comunicado. La investigación publicada por Hacktron, según OpenAI, ha destapado debilidades en cómo interactúan las aplicaciones, la infraestructura en la nube y los sistemas de identidad, que es justo la costura que la alianza pretende sondear.
Ese énfasis no es casual. Las vulnerabilidades más difíciles en el patrimonio de una empresa de IA rara vez están en el modelo; están en la fontanería entre el modelo, el producto y todo aquello a lo que está conectado. Como lo plantea OpenAI, los agentes conectan servicios de formas nuevas, y son esas conexiones lo que probarán los dos equipos.
El consejero delegado de Hacktron, Zayne Zhang, aparece citado diciendo que “el futuro de la ciberseguridad no lo definirá quién tenga el mayor equipo de seguridad, sino quién sepa combinar mejor la creatividad humana con las capacidades impulsadas por IA”, y acreditando a OpenAI por “poner modelos ciber de frontera en manos de investigadores de seguridad”.
Lo que el anuncio no dice
No hay plazo, ni límite de alcance más allá de “áreas prioritarias”, ni indicación de si hay dinero de por medio, ni descripción de qué puede o no hacer Hacktron con el acceso a modelos de frontera fuera de este encargo. Para un programa cuya premisa entera es que estos modelos son lo bastante peligrosos como para racionarlos, la ausencia de un régimen de control declarado es la laguna llamativa.
Tampoco dice OpenAI cómo se divulgarán los hallazgos. El texto remite a los investigadores al programa de recompensas para ver qué sistemas están dentro del alcance o para enviar un hallazgo, pero la alianza en sí queda al lado de ese proceso, no dentro de él.
Qué vigilar
Lo que hay que mirar es si esto se vuelve un patrón. OpenAI ha colocado capacidad ciber de frontera en una nube gubernamental, en Cathedral y en Hacktron en una semana. Cada decisión por separado se defiende como defensa; el agregado es un círculo que se ensancha sin pausa de organizaciones con modelos que la propia empresa describe como de alto riesgo, y hasta ahora el único recuento público de quién tiene qué son los anuncios de OpenAI.
