Los textos que escribas con ChatGPT en Europa van a llevar una firma que no se ve. OpenAI ha anunciado que en las próximas semanas añadirá una marca de agua invisible a los textos de ChatGPT y Codex generados en la Unión Europea, según su propio anuncio. Es su forma de cumplir las normas de transparencia del AI Act.
Fuera de Europa el cambio es opcional: los clientes de la API de todo el mundo pueden activarla en algunos modelos, pero estará apagada por defecto.
Cómo funciona textGrain
La tecnología se llama textGrain. En lugar de añadir una etiqueta visible, deja una señal estadística en las palabras que elige el modelo, un patrón que un detector puede reconocer pero que una persona no nota al leer.
OpenAI reconoce sus límites. Los textos cortos y los que se editan después son menos fiables para el detector, y al principio solo podrán usarlo investigadores y organizaciones expertas aprobadas.
Lo que la marca prueba y lo que no
Aquí está la letra pequeña. Según OpenAI, la marca puede indicar que un sistema suyo generó o procesó parte de un texto. No puede decir quién usó el sistema, cuánto aportó una persona, de quién es el texto ni si el contenido es correcto.
Y funciona solo en una dirección: si no se detecta marca, eso tampoco demuestra que lo escribiera una persona. Quien piense usarlo para pillar trabajos hechos con IA debería tenerlo muy presente.
Lo que exige el AI Act
El artículo 50 del AI Act obliga a que el contenido generado por IA se pueda identificar como tal mediante marcas legibles por máquina. Esas obligaciones se aplican desde el 2 de agosto, con un plazo de transición hasta el 2 de diciembre para los sistemas que ya estaban en el mercado.
No es la primera vez que lo vemos: Anthropic ya aplicó una marca a sus textos con un alcance limitado, como contamos con la marca de agua que exige Bruselas. Y la misma norma obliga a avisar cuando hablas con una IA.
Qué significa para las empresas españolas
Si tu empresa publica textos hechos con ChatGPT, desde webs a correos o informes, conviene asumir que pueden llevar esa marca. No es nada malo, pero sí una razón más para tener clara la política interna sobre cuándo se usa IA y cuándo se dice, como pasa ya con la obligación de que la IA que llama a tu negocio diga que es una IA.
Si además desarrollas productos sobre la API de OpenAI para el mercado europeo, revisa si te toca activar la marca y cómo encaja con tus propias obligaciones, algo que entra de lleno en cualquier proyecto de consultoría de inteligencia artificial.
Una pieza más de la transparencia
La marca de agua no resolverá por sí sola la duda de si un texto lo escribió una persona o una máquina. Pero sí marca el camino: en Europa, la IA tendrá que dejar huella, aunque no se vea.
Lo interesante será ver qué hacen el resto de fabricantes antes de que acabe el plazo de diciembre.
