La Agencia Española de Protección de Datos (AEPD) ha publicado recientemente una nota informativa en la que analiza los riesgos asociados al uso de imágenes de terceros en sistemas de inteligencia artificial, advirtiendo de que estos peligros existen incluso en contextos aparentemente inofensivos, recreativos o sin finalidad comercial.
El documento se estructura en varios bloques y pone de manifiesto que el impacto sobre los derechos de las personas no se limita únicamente al resultado final de la imagen generada, sino que comienza en el mismo momento en que una fotografía o un vídeo se incorpora a un sistema de IA.
Riesgos visibles: cuando el daño es evidente
En un primer apartado, la AEPD se centra en los riesgos más visibles, es decir, aquellos que se producen cuando se generan y difunden imágenes de terceros mediante inteligencia artificial. La Agencia identifica una serie de escenarios especialmente sensibles, entre los que destacan:
- La sexualización y la creación de contenido íntimo sintético, especialmente grave cuando afecta a menores de edad.
- La atribución de hechos, conductas o contextos no reales, con potencial impacto reputacional, personal o profesional.
- La descontextualización de imágenes, que puede alterar de forma significativa el significado original del contenido.
- El uso de imágenes de menores o personas en situación de especial vulnerabilidad, donde el riesgo se ve notablemente incrementado.
Estos supuestos, advierte la AEPD, pueden provocar daños difíciles de revertir y una afectación directa a derechos fundamentales.
Riesgos invisibles: el tratamiento que no se ve
El segundo bloque aborda los llamados riesgos invisibles, aquellos que se producen, aunque la imagen generada no llegue a publicarse o difundirse. La Agencia subraya que el simple hecho de subir una imagen o un vídeo a un sistema de IA ya implica consecuencias relevantes desde el punto de vista de la protección de datos.
- La pérdida efectiva de control sobre la imagen, al intervenir terceros tecnológicos.
- La posible retención del contenido y la existencia de copias no visibles para el usuario.
- La participación de múltiples actores en el tratamiento de los datos.
- La generación de metadatos asociados a la imagen.
- El riesgo de identificación persistente, especialmente en sistemas capaces de reutilizar rasgos físicos de una persona para generar múltiples contenidos.
Todo ello evidencia que el impacto no depende únicamente de la intención del usuario, sino del funcionamiento propio de las tecnologías empleadas.