Si alguna vez has subido una foto a Copilot para que la retoque, puede que una persona la haya visto. Según documentos internos que ha publicado 404 Media, Microsoft recurre a contratistas que revisan las fotos que suben los usuarios, junto a lo que piden que se haga con ellas, y las ven con las caras sin difuminar.
Los revisores no están ahí para vigilar. Su trabajo es puntuar la calidad de la edición, no avisar de contenido dañino, y aun así cuentan que buena parte de lo que ven son peticiones de carácter sexual. Para una empresa española, el caso recuerda algo menos llamativo: lo que entra en un asistente de consumo no siempre se queda entre el usuario y la máquina.
Qué han contado los revisores
Cada tarea trae la foto original, la petición del usuario y dos versiones generadas por Copilot, y el revisor elige la mejor. Uno de ellos lo resume sin rodeos: las caras van siempre sin censurar, y muchas de las peticiones son sexuales.
Entre ellas describen acortar faldas, agrandar pechos o colocar a personas en posturas sexuales, además de contenido que hace apología de la anorexia. Al menos una de las empresas que contrata a estos revisores es Prolific, que no respondió a 404 Media.
Lo que dice Microsoft y lo que no cuadra
Microsoft se ha limitado a decir que usa los datos de sus clientes como recogen sus condiciones de uso, también para mejorar sus productos y hacer cumplir su código de conducta. Lo que no cuadra es otra página suya: en sus preguntas frecuentes sobre privacidad, explica que en las imágenes de las conversaciones con Copilot toma medidas para desidentificarlas, como quitar metadatos o difuminar las caras.
Esa promesa se refiere al entrenamiento del modelo, y los revisores trabajan en otra fase, la de evaluar resultados. Pero para el usuario la diferencia es difícil de ver: subió una foto con su cara, o con la de otra persona, y alguien de fuera de Microsoft la vio tal cual.
Qué cuentas quedan fuera del entrenamiento
La misma página detalla qué conversaciones no se usan para entrenar a Copilot: las de cuentas de trabajo con Entra ID, las de Copilot dentro de Microsoft 365 Personal o Familia, las de quien no ha iniciado sesión, las de menores de 18 años y las de quien lo ha desactivado. Cualquier otro usuario puede desactivarlo desde el apartado de privacidad de su perfil.
Hay un matiz. Microsoft también avisa de que una revisión humana limitada forma parte de sus investigaciones cuando sospecha que alguien ha incumplido su código de conducta, y de esa revisión no se puede salir.
Qué significa para las empresas españolas
Una foto en la que se reconoce a alguien es un dato personal para el RGPD, y muchas de las que acaban en un asistente no son del propio usuario: son de clientes, compañeros o familiares que no han dado permiso a nadie. Si un empleado retoca la foto de un cliente con su Copilot personal, la empresa tiene un problema que no ve.
La respuesta pasa por lo básico: que el trabajo se haga con cuentas de empresa, que el entrenamiento esté desactivado donde se pueda y que haya una regla clara de qué se sube y qué no. Si estás eligiendo asistente, nuestra comparativa de Copilot y ChatGPT repasa qué ofrece cada uno a una empresa.
Y si el uso de la IA en tu empresa ha crecido sin normas, ordenarlo es el primer paso de cualquier estrategia de IA.
Una revisión que nadie ve
La revisión humana para mejorar los modelos es habitual en el sector, y 404 Media ya contó algo parecido con ChatGPT. Lo nuevo aquí es lo que llega a los revisores y que, según ellos, llegue sin filtrar. Mientras ninguna autoridad europea se pronuncie, la decisión de qué subir sigue en manos de cada usuario y de cada empresa.
