La inteligencia artificial es una herramienta de doble filo y debemos asumir que ha llegado para quedarse. Bien utilizada, puede resultar increíblemente útil y abrir oportunidades impensables hace solo unos años. Sin embargo, en las manos equivocadas también puede convertirse en una fuente de problemas e incluso causar graves perjuicios. Y uno de los ejemplos más preocupantes tiene que ver con las imágenes.
© Adobe StockBasta una fotografía subida a una red social para que, en cuestión de segundos, algunas aplicaciones de inteligencia artificial sean capaces de generar una imagen falsa y sexualmente explícita de cualquier persona. Lo que hasta hace poco parecía ciencia ficción se ha convertido en un problema cada vez más frecuente, especialmente entre adolescentes, mujeres y figuras públicas.
Su proliferación ha generado una creciente preocupación entre expertos, educadores y autoridades, especialmente por su uso para acosar, humillar o extorsionar a otras personas. Ahora, la Unión Europea ha decidido actuar y poner límites a una de las funciones más controvertidas de la inteligencia artificial.
La Comisión Europea ha celebrado el acuerdo político alcanzado entre el Parlamento Europeo y el Consejo de la UE para simplificar las normas sobre inteligencia artificial y, al mismo tiempo, reforzar la protección de los ciudadanos frente a algunos de sus usos más peligrosos. Entre las medidas más destacadas figura la prohibición expresa de las aplicaciones capaces de generar desnudos falsos sin consentimiento.
Qué son las apps 'nudify' y cómo funcionan las herramientas que crean desnudos sin consentimiento
Las conocidas como aplicaciones nudify utilizan inteligencia artificial para modificar fotografías reales y generar imágenes que nunca han tenido lugar y en las que una persona aparece desnuda o en situaciones sexualmente explícitas.
Su funcionamiento suele ser extremadamente sencillo. Basta con subir una fotografía para que el sistema analice el cuerpo, la postura y otros rasgos físicos y genere una imagen manipulada que simula ser real.
Aunque estas imágenes son completamente falsas, en muchos casos resultan suficientemente convincentes como para causar graves daños personales, profesionales o reputacionales a las víctimas.
Por qué mujeres, menores y famosos son las principales víctimas de estos desnudos falsos
Las víctimas de este tipo de contenido suelen ser mujeres, menores de edad y caras conocidas cuya exposición pública es un hecho.
En muchos casos, las imágenes se utilizan como forma de acoso, venganza, chantaje o humillación. También son frecuentes los casos en los que se crean falsos desnudos de , figuras públicas para difundirlos posteriormente en redes sociales o plataformas de mensajería.
El problema no es únicamente tecnológico. Detrás de estas imágenes existen consecuencias psicológicas, emocionales y reputacionales que pueden afectar gravemente a quienes las sufren.
Durante los últimos años se han conocido diversos casos en colegios e institutos donde estudiantes utilizaron aplicaciones de inteligencia artificial para crear imágenes falsas de compañeras de clase y compartirlas posteriormente en grupos privados o redes sociales, con el consabido perjuicio y daño que esto causa en los menores.
© Getty ImagesQué ha aprobado exactamente la Unión Europea sobre los desnudos falsos generados por IA
El acuerdo alcanzado entre el Parlamento Europeo y el Consejo de la Unión Europea refuerza la protección de los ciudadanos frente a determinados usos de la inteligencia artificial.
Entre otras medidas, prohíbe expresamente los sistemas capaces de generar contenido sexualmente explícito e íntimo sin consentimiento, así como aquellos que produzcan material de abuso sexual infantil mediante inteligencia artificial.
La medida forma parte de una actualización de las normas europeas sobre IA cuyo objetivo es facilitar la innovación tecnológica sin renunciar a la protección de los derechos fundamentales de los ciudadanos.
Qué cambia para el usuario: cómo te protege la nueva ley si eres víctima de un desnudo falso
La nueva regulación busca establecer límites más claros para los desarrolladores de estas herramientas y reforzar los mecanismos de supervisión sobre determinados sistemas de inteligencia artificial.
El objetivo es reducir la proliferación de este tipo de aplicaciones y ofrecer una mayor protección a quienes puedan verse afectados por contenidos generados sin su consentimiento.
Además, la Unión Europea pretende reforzar la vigilancia sobre sistemas de IA considerados especialmente sensibles o de alto riesgo.
© Getty ImagesQué hacer si descubres una imagen falsa tuya en internet
Los especialistas recomiendan actuar con rapidez si se detecta una imagen manipulada mediante inteligencia artificial.
Entre las principales medidas se encuentran:
- Guardar capturas de pantalla y pruebas de la publicación.
- Solicitar la retirada inmediata del contenido en la plataforma donde aparezca.
- Denunciar la cuenta o perfil que lo haya difundido.
- Acudir a las Fuerzas y Cuerpos de Seguridad del Estado si existe acoso, amenazas o difusión masiva.
- Consultar con la Agencia Española de Protección de Datos cuando se vulneren derechos relacionados con la imagen o la privacidad.
- Cuanto antes se actúe, mayores serán las posibilidades de limitar la difusión del contenido.
Cuándo entrará en vigor la prohibición y qué otras inteligencias artificiales estarán más controladas
El acuerdo también establece un calendario para la aplicación de las normas que afectan a los sistemas de inteligencia artificial considerados de alto riesgo.
Entre ellos figuran los utilizados en ámbitos especialmente sensibles como la biometría, las infraestructuras críticas, la educación, el empleo, la migración, el asilo o el control fronterizo.
Las nuevas reglas para estos sistemas comenzarán a aplicarse a partir del 2 de diciembre de 2027. En el caso de tecnologías integradas en determinados productos, como ascensores o juguetes, la aplicación llegará a partir del 2 de agosto de 2028.
