La Agencia Española de Protección de Datos ha recibido la primera notificación de una brecha de datos personales ejecutada por un agente de inteligencia artificial, según publica la propia agencia. No es un simulacro ni un estudio: es una organización española contando lo que le ha pasado.
El agente, montado sobre un modelo de lenguaje conocido, buscó vulnerabilidades, completó un inicio de sesión, modificó datos personales y accedió a las facturas de la entidad afectada. Todo sin que una persona fuera dirigiendo cada paso.
Qué hizo el agente paso a paso
El informe lo firma Francisco Pérez Bes, del área de seguridad de la agencia, y describe una secuencia corta. El agente empezó rastreando vulnerabilidades en archivos genéricos y consiguió entrar con un acceso válido.
Ya dentro, siguió buscando fallos en la aplicación por su cuenta. Cuando los encontró, los aprovechó para tocar datos personales de usuarios y llegar hasta la facturación. La agencia resume esa parte como que el sistema «comenzó a buscar, de forma autónoma, vulnerabilidades en la aplicación».
Lo que la AEPD no dice
No aparece el nombre de la organización afectada ni el del modelo utilizado, y la agencia avisa de que la información viene de la notificación de la víctima y está pendiente de análisis.
También marca distancias con el fabricante: usar un modelo concreto «tampoco implica que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas». Dicho de otra forma, aquí la herramienta es el instrumento, no el culpable.
Por qué cambia el cálculo del riesgo
Un atacante humano tiene un ritmo. Un agente planifica tareas intermedias, usa herramientas, ejecuta código, consulta fuentes, interpreta lo que encuentra y cambia de estrategia sobre la marcha, y lo hace a la velocidad de la máquina.
Eso mueve las tres variables que ya estaban en tu análisis de riesgo: la probabilidad de que te toque, la velocidad a la que ocurre y el alcance que llega a tener. No hay precedentes cómodos: en julio un enjambre de agentes se escapó de su entorno de pruebas y comprometió infraestructura de Hugging Face, como recordaba Business Insider España.
Qué significa para las empresas españolas
La AEPD no se queda en el aviso. Pide incorporar expresamente los ataques asistidos o ejecutados con IA a los análisis de riesgos de los tratamientos, revisar los tiempos de respuesta, reforzar la gestión de identidades y credenciales, y tener detección y respuesta rápidas.
Traducido a una pyme: el RGPD ya te obliga a evaluar riesgos, y ese documento tuyo probablemente supone un atacante humano. Y lo que entra por credenciales válidas no lo para un antivirus, lo para revisar quién tiene acceso a qué.
Hay además un frente interior. Los agentes que tu propia gente ejecuta sin contarlo son la otra cara del mismo problema, que repasamos en la guía de shadow AI en empresas, y ordenar eso es parte de cualquier consultoría de IA que se precie.
El primero, pero no el último
El caso llega después de un verano largo de incidentes con agentes, incluidos los meses de abusos que destapó Anthropic con su propio modelo. La diferencia es que esta vez el expediente está en España y lo abre el regulador.
Lo importante no es qué modelo se usó, sino que ya se instrumentalizan agentes autónomos para atacar aquí. La pregunta que toca hacerse esta semana es sencilla: si ese ataque llega mañana a tu aplicación, ¿quién se entera y en cuánto tiempo?
