La Agencia Española de Protección de Datos (AEPD) ha dado a conocer una notificación de brecha de seguridad que, según su análisis, marca un punto de inflexión: un tercero habría utilizado un agente de inteligencia artificial para atacar una aplicación con datos personales reales. El agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos y realizó un login correcto. Una vez dentro del sistema, comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación. Al conseguirlo, pudo modificar datos personales y acceder a facturas.

Lo que se sabe y lo que aún debe analizarse

La AEPD advierte de que, “con carácter previo a ningún tipo de conclusión”, la información disponible procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis. El organismo precisa además que la utilización de un concreto modelo de IA no implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas.

Lo relevante desde la perspectiva de la protección de datos, subraya la Agencia, es que “un tercero habría utilizado un agente de IA como instrumento para encadenar exitosamente distintas fases del ataque”. La AEPD aclara que esta primera notificación no permite afirmar una tendencia estadística. Sin embargo, sí constituye “una señal significativa” de que los ataques apoyados en inteligencia artificial “han dejado de ser un riesgo teórico” y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales.

De la ayuda al atacante a la actuación autónoma

El uso de inteligencia artificial en actividades maliciosas no es nuevo. Se ha demostrado que, aplicadas a un ciberataque, estas capacidades pueden facilitar la automatización de actividades ilícitas. Desde hace tiempo se emplean modelos generativos para redactar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código o facilitar la búsqueda de vulnerabilidades.

La aparición de los agentes de IA, sin embargo, introduce “un cambio cualitativo”. Según la AEPD, un agente puede recibir un objetivo, planificar tareas intermedias, utilizar herramientas, ejecutar código, consultar fuentes, interpretar resultados y modificar su actuación, de forma autónoma, en función de lo que encuentra.

La Agencia recuerda que la IA no crea nuevas amenazas, pero “sí aumenta la velocidad, escala y capacidad de adaptación de técnicas maliciosas ya conocidas”, lo que reduce el tiempo disponible para detectarlas y contenerlas.

La advertencia del Centro Criptológico Nacional

Esta es también una de las conclusiones de la guía CCN-CERT BP/36: Buenas prácticas frente al modelo de IA ofensiva, publicada por el Centro Criptológico Nacional. El documento advierte de que la IA ofensiva se está convirtiendo en una capacidad operativa integrada en campañas reales. Recomienda reforzar los controles esenciales, acelerar la gestión de vulnerabilidades, proteger las identidades, controlar la cadena de suministro y gobernar adecuadamente el uso de agentes.

Cuatro razones por las que esta notificación importa

Para la AEPD, la importancia del caso, además de por la tecnología empleada, radica en que modifica el escenario de la gestión de riesgos, y lo concreta en cuatro puntos.

En primer lugar, confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos. No basta con incluir una referencia genérica a malware, phishing o acceso no autorizado, porque esta automatización “puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente”.

En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes cuando un agente analiza simultáneamente múltiples activos, prueba distintas vías de acceso y adapta su comportamiento con rapidez.

En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar “a la velocidad de una máquina” y acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.

Finalmente, evidencia que la seguridad de los tratamientos no puede depender únicamente de la intervención manual. La supervisión humana, señala la Agencia, continúa siendo imprescindible, pero debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la rapidez suficiente.

Una señal para actuar

La AEPD sostiene que la llegada de los agentes de IA al ámbito ofensivo “debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos”. Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor. En ese escenario continuarán siendo decisivos los mismos fundamentos: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder.