La brecha de datos con un agente de IA habría encadenado de forma autónoma la búsqueda de vulnerabilidades, el acceso al sistema y la modificación de información personal, según la notificación recibida por la Agencia.
La Agencia Española de Protección de Datos (AEPD) ha recibido por primera vez una notificación de una brecha de datos personales en la que el ataque habría sido ejecutado mediante un agente de inteligencia artificial (IA). El incidente supone un precedente para la gestión de riesgos de ciberseguridad y protección de datos ante herramientas capaces de realizar de manera autónoma distintas fases de una intrusión.
La información disponible procede de la notificación presentada por la organización afectada y todavía debe ser analizada, por lo que la AEPD advierte de que no pueden extraerse conclusiones definitivas sobre el incidente.
La Agencia tampoco identifica a la organización afectada ni el modelo de lenguaje utilizado. Además, precisa que el empleo de un determinado modelo no implica que este o la infraestructura de su proveedor hayan sido comprometidos, ni que la herramienta utilizada estuviera diseñada para desarrollar actividades maliciosas.
Del acceso al sistema a la modificación de datos personales
Según la información recibida por la AEPD, el ataque comenzó con una búsqueda de vulnerabilidades en archivos genéricos y continuó mediante un inicio de sesión válido.
Una vez obtenido el acceso, el agente habría seguido explorando de manera autónoma la aplicación hasta localizar una vulnerabilidad. Su explotación le permitió modificar datos personales y consultar facturas almacenadas en el sistema.
La diferencia respecto al uso de un modelo de IA como herramienta puntual reside en la autonomía del agente. Este tipo de sistemas puede recibir un objetivo, establecer tareas intermedias, utilizar herramientas, ejecutar código e interpretar los resultados para decidir sus siguientes acciones.
La inteligencia artificial ya se utiliza para automatizar actividades relacionadas con el phishing, la suplantación de identidad, el análisis de código o la búsqueda de vulnerabilidades. La capacidad agéntica añade la posibilidad de encadenar distintas acciones y adaptar el comportamiento a los resultados obtenidos durante el proceso.
La AEPD pide revisar los análisis de riesgos
El incidente también introduce una nueva variable para las empresas que tratan datos personales. La AEPD señala que los ataques asistidos o ejecutados mediante IA deben contemplarse en los análisis de riesgos, ya que la automatización puede modificar la probabilidad, velocidad y alcance de una brecha.
Esto afecta especialmente a los mecanismos de detección y respuesta. Un agente puede analizar distintos activos, probar diferentes vías de acceso y modificar sus acciones con mayor rapidez que un ataque ejecutado manualmente.
La gestión de identidades y credenciales adquiere igualmente relevancia. Una cuenta, una clave API o un token con permisos excesivos puede facilitar el acceso a diferentes servicios y permitir que las acciones se ejecuten a una velocidad superior a la capacidad de respuesta manual de una organización.
La AEPD considera por ello que la seguridad de los tratamientos no puede descansar exclusivamente en la intervención humana. La supervisión seguirá siendo necesaria, pero deberá complementarse con mecanismos de detección, contención y respuesta adaptados a ataques automatizados.
La Agencia subraya, en cualquier caso, que una única notificación no permite establecer una tendencia estadística. El caso sí incorpora un escenario concreto que las organizaciones deberán considerar al evaluar los riesgos asociados al tratamiento de datos personales y a la utilización de sistemas de inteligencia artificial.
Sigue toda la información de Open Hub News en Linkedin o en nuestra newsletter.
