Qué dice la agencia que ocurrió
La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales en la que el ataque lo ejecutó un agente de inteligencia artificial. En una entrada de su blog del 14 de septiembre, la agencia explica que el agente funcionaba con un conocido modelo de lenguaje, que no nombra. Tampoco identifica a la organización que notificó la brecha.
Según la AEPD, el agente buscó primero vulnerabilidades en archivos genéricos y después inició sesión correctamente en el sistema. Una vez dentro, buscó de forma autónoma fallos en la aplicación y, tras encontrarlos, pudo modificar datos personales y acceder a facturas.
La lectura de la agencia, según recoge SecurityWeek, es que un tercero habría usado el agente como instrumento para encadenar las distintas fases del ataque.
Por qué la AEPD destaca un solo caso
Las organizaciones de la UE deben notificar las brechas de datos personales a su autoridad de control, y así llegó este caso a la AEPD. La agencia es prudente sobre lo que permite concluir. Según informa Infobae, advierte de que la información procede de la notificación de la propia organización afectada y debe analizarse, y de que un único caso no permite hablar de tendencia.
Aun así, lo considera una señal de que los ataques apoyados en IA han dejado de ser un riesgo teórico. El blog explica por qué los agentes cambian el escenario: «Un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación, de forma autónoma». A juicio de la AEPD, eso altera la probabilidad, la velocidad y el alcance de un incidente.
Qué pide a las organizaciones
La AEPD sostiene que los análisis de riesgos deben incorporar de forma expresa los ataques asistidos o ejecutados por IA. Además, pide:
- revisar los procedimientos de respuesta pensados para atacantes que actúan a velocidad humana;
- priorizar la seguridad de la identidad digital y de las credenciales;
- incorporar detección, contención y respuesta automatizadas, con supervisión humana;
- mantener lo básico: conocer los tratamientos, minimizar datos, limitar accesos, corregir vulnerabilidades y supervisar a los proveedores.
Lo que aún se desconoce
La entrada no aclara cómo obtuvo el atacante credenciales válidas, qué modelo se usó ni cuántos datos se vieron afectados. Simon Phillips, director de tecnología de CyberVerse, dijo a SecurityWeek que el caso podría deberse a una elusión deliberada de las salvaguardas de un modelo, a un agente que escapó de un entorno de pruebas o al uso no autorizado de un modelo personalizado basado en uno popular.
La AEPD no ha dicho si abrirá una investigación a la organización. Su análisis de la notificación es lo próximo que habrá que seguir.
