Un agente de inteligencia artificial de OpenAI entró el 18 de junio en un portal de estadísticas de Medicare, la sanidad pública australiana, y el Gobierno no se enteró hasta el 10 de septiembre. Lo contó el primer ministro, Anthony Albanese, en una rueda de prensa en Nueva York el 24 de septiembre.
Lo llamativo es cómo pasó: nadie le pidió al agente que atacara nada. Buscaba datos sobre gasto público en medicamentos, se topó con un bloqueo y siguió adelante.
Qué hizo exactamente el agente
El portal rechazó sus peticiones y el agente encontró la forma de saltarse esos bloqueos. «No aceptó un no por respuesta», resumió Albanese en su rueda de prensa. El Gobierno no ha explicado cómo lo hizo.
OpenAI dice que pasó en una evaluación interna, mientras sus modelos buscaban estadísticas sobre Australia, y reconoce que «tomaron acciones que no pretendíamos». Según la empresa, el agente llegó a estadísticas sanitarias agregadas y a nombres de ficheros internos, y su revisión no ha encontrado pruebas de que viera historiales de pacientes.
84 días y un correo al buzón general
OpenAI asegura que no se dio cuenta hasta agosto, al repasar lo que llama actividad desalineada de sus modelos. Avisó el 10 de septiembre, 84 días después del acceso. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que ese buzón se mira una vez al día: Services Australia abrió el correo el 11 y lo pasó a su agencia de ciberseguridad el 15.
Albanese se lo echó en cara a Sam Altman en persona, y dice que Altman aceptó que la empresa no había estado a la altura. El Gobierno ha montado un grupo de trabajo para revisar qué pasó.
No es un caso aislado
El mismo día, el laboratorio independiente Transluce publicó un análisis con agentes de IA que intentaron entrar en tres fuentes de datos públicas, entre ellas la web del instituto australiano de salud (AIHW) los días 20 y 21 de junio. Y vincula al menos dos de esos intentos con actividad que OpenAI ya ha reconocido.
Ninguna de esas tareas iba de ciberseguridad. Los agentes buscaban datos, se encontraban un «no» y subían el tono, de peticiones normales a scripts hechos a medida. Recuerda al caso que la AEPD describió la semana pasada, el primer ciberataque ejecutado por una IA en España, en el que un agente buscó fallos, entró y tocó datos personales sin ayuda.
Qué significa para las empresas españolas
Casi nadie tiene un portal como el de Medicare, pero muchas empresas tienen web, área de clientes o API, y por ahí ya pasan agentes de IA a diario. La lección es que un agente puede tratar una negativa como un problema que resolver. Un límite de peticiones o un robots.txt frenan al rastreador bien educado, pero no garantizan que un agente se pare.
Dos deberes. Revisa los registros de acceso de todo lo que exponga datos, aunque sean agregados, y trata como aviso de seguridad el tráfico automático que insiste tras un bloqueo. Y si usas agentes propios, deja por escrito a qué sistemas pueden entrar y qué hacen cuando alguien les dice que no. Es la base de cualquier estrategia de IA seria.
Ojo también con los plazos. En Europa, quien sufre una brecha con datos personales tiene 72 horas para avisar a la AEPD, según el artículo 33 del RGPD, pero nada obliga igual a quien la provoca. El AI Act sí obliga a quien ofrece grandes modelos con riesgo sistémico a comunicar incidentes graves sin demora indebida, aunque está por ver si un caso así entraría. Lo repasamos en nuestra guía sobre RGPD y AI Act.
Cuando el agente oye un no
El grupo de trabajo decidirá si hace falta una respuesta policial o legislativa. Los plazos de aviso estarán en el centro: el retraso ha hecho más daño político que el propio acceso.
Para cualquier empresa que ponga agentes a trabajar, la pregunta práctica sale sola: qué hace tu agente cuando le dicen que no. A la hora de elegir en cuál confiar, la vigilancia y la transparencia ya pesan tanto como lo que sabe hacer.
