La inteligencia artificial ha transformado la forma de crear contenidos digitales. Hoy es posible generar imágenes, vídeos o audios capaces de reproducir con gran fidelidad el rostro o la voz de una persona. En ocasiones, resulta muy difícil distinguir si ese contenido es auténtico o ha sido creado mediante inteligencia artificial.
Estas creaciones, conocidas como deepfakes, ofrecen numerosas posibilidades en sectores como la publicidad, el cine o el entretenimiento. Sin embargo, también generan importantes riesgos cuando se utilizan sin autorización para reproducir la imagen o la voz de una persona.
Esta nueva realidad ha obligado tanto a la Unión Europea como al legislador español a plantearse si el marco jurídico actual ofrece una protección suficiente frente a este fenómeno.
¿Qué son los deepfakes?
El Reglamento (UE) 2024/1689, conocido como AI Act, define los deepfakes como contenidos de imagen, audio o vídeo generados o manipulados mediante inteligencia artificial. Su principal característica es que pueden inducir a una persona a creer erróneamente que son auténticos.
Su utilización no es, por sí misma, ilegal. De hecho, esta tecnología puede emplearse con fines creativos, educativos o artísticos. El problema aparece cuando se utiliza para suplantar la identidad de una persona o para difundir contenidos falsos que afectan a su reputación o a sus derechos.
Ejemplos recientes
• Las imágenes del Papa Francisco vistiendo un abrigo blanco generadas mediante inteligencia artificial dieron la vuelta al mundo antes de que muchos usuarios descubrieran que eran falsas.
• Diversos personajes públicos han denunciado la utilización de su imagen en anuncios fraudulentos para promocionar inversiones o productos inexistentes.
• También se han detectado fraudes empresariales en los que la voz de un directivo fue clonada mediante inteligencia artificial para autorizar falsas transferencias bancarias.
Estos ejemplos demuestran que los deepfakes ya no son una simple curiosidad tecnológica. Su utilización plantea problemas reales tanto para particulares como para empresas.
La protección del derecho a la propia imagen
En España, el derecho al honor, a la intimidad personal y familiar y a la propia imagen está reconocido en el artículo 18 de la Constitución Española. Su desarrollo se encuentra en la Ley Orgánica 1/1982.
No obstante, esta normativa fue aprobada en un contexto tecnológico muy distinto al actual. Hasta hace pocos años, utilizar la imagen de una persona requería disponer de una fotografía o de una grabación real. Hoy, la inteligencia artificial permite generar imágenes, vídeos o audios completamente nuevos a partir de contenido previamente existente.
Este cambio obliga a adaptar los mecanismos tradicionales de protección a una realidad que evoluciona de forma constante.
La respuesta de la Unión Europea y del legislador español
Consciente de estos riesgos, la Unión Europea ha incorporado en el AI Act diversas obligaciones de transparencia. Su finalidad es que los usuarios puedan identificar cuándo un contenido ha sido generado o manipulado mediante inteligencia artificial.
En España, esta regulación se complementa con el Anteproyecto de reforma de la Ley Orgánica 1/1982. Su objetivo es reforzar la protección del derecho al honor, a la intimidad y a la propia imagen frente a las denominadas ultrasuplantaciones.
Entre las principales medidas propuestas destacan las siguientes:
- Considerar una intromisión ilegítima la utilización o difusión de imágenes o voces creadas o manipuladas mediante inteligencia artificial.
- Proteger frente al uso del nombre, la imagen o la voz con fines publicitarios o comerciales cuando hayan sido generados artificialmente.
- Permitir solicitar judicialmente la retirada de estos contenidos como medida cautelar cuando puedan vulnerar los derechos de la persona afectada.
¿Todo deepfake es ilegal?
La respuesta es no.
El propio Anteproyecto contempla determinadas excepciones para contenidos con finalidad artística, satírica, cultural o de ficción. En estos casos, el público deberá poder identificar que el contenido ha sido generado o manipulado mediante inteligencia artificial.
Por tanto, la utilización de un deepfake no supone automáticamente una vulneración del derecho a la propia imagen.
La aplicación de esta futura regulación exigirá ponderar la libertad de expresión y los derechos al honor, a la intimidad y a la propia imagen. No siempre será sencillo establecer dónde se encuentra el límite entre ambos. Por ello, previsiblemente serán los tribunales quienes deban fijar los criterios que permitan resolver cada caso concreto.
Además, es probable que en los próximos años aumenten los conflictos relacionados con la responsabilidad de las plataformas digitales, la revisión de los contratos de cesión de derechos de imagen o la utilización de réplicas digitales en campañas publicitarias.
Conclusión
Los deepfakes representan uno de los principales retos jurídicos asociados al desarrollo de la inteligencia artificial. La facilidad con la que pueden generarse imágenes o voces falsas obliga a adaptar un marco normativo diseñado para una realidad tecnológica muy diferente.
Las iniciativas impulsadas por la Unión Europea y por el legislador español constituyen un avance importante en la protección del derecho a la propia imagen. Sin embargo, todavía será necesario que los tribunales delimiten el alcance de estas normas y resuelvan los conflictos que inevitablemente surgirán con su aplicación.
Desde Cobo Serrano Abogados consideramos que la evolución de la inteligencia artificial exigirá una actualización constante del marco jurídico. Solo así será posible garantizar un equilibrio entre el desarrollo tecnológico y la protección efectiva de los derechos fundamentales.