www.mallorcadiario.com

La amenaza de los 'deepfakes' pornográficos: falsos desnudos con Inteligencia Artificial

Por Marina Forteza
x
mfortezamallorcadiariocom/8/8/23
martes 24 de octubre de 2023, 05:00h

Escucha la noticia

Realizar montajes con aplicaciones de Inteligencia Artificial es la nueva moda. Verse a uno mismo como un conocido personaje de ficción o recrear entornos imaginarios se ha vuelto muy sencillo. En un momento de creciente exposición en redes sociales, tanto de jóvenes como de adultos, el caso de las menores de Almendralejo ha dejado ver los peligros de la creación y difusión de imágenes de desnudos falsos a partir de fotos originales robadas de sus perfiles. El policía nacional José Díaz explica a mallorcadiario.com la reciente problemática surgida por estos fotomontajes que pueden suponer un delito y de los que cualquiera puede ser víctima.

Tan solo hace falta un teléfono móvil. Crear fotos falsas de desnudos -que parecen reales- a partir de una imagen de una persona vestida, es posible gracias a la Inteligencia Artificial. Mediante una aplicación legal y gratuita, "cualquiera puede crear material pornográfico de mujeres sin su consentimiento y difundirlo en internet".

El fenómeno se conoce como deepfake; la Inteligencia Artificial permite manipular el contenido, a través de la técnica deep learning; una tecnología que simula el cerebro humano y modela abstracciones. Muchos menores la utilizan "por diversión", pero la policía advierte que el uso que se haga de esas imágenes puede ser delito, además de un grave ataque contra la intimidad. Los principales riesgos que acarrea ser víctima de esta práctica radican en que la fotografía circule en redes o páginas de pederastia, además de poder ser víctimas de sextorsión, ya que, "aunque para nosotros esas imágenes son falsas, para el resto parecen reales".

EL RETO DE REGULAR LOS DEEPFAKES

"Si generamos un desnudo falso de un menor que pueda confundir, se considera una imagen real y por tanto un delito de creación y posesión de porngrafía infantil".

Diferente es la situación cuando la víctima es un adulto. Actualmente, debido a que la tencología avanza más rápido que la legislación, hay una falta de regulación en este sentido, ya que la legislación no regula específicamente la producción y difusión de los deepfakes.

Cabe destacar que la Comisión Europea ya ha presentado un borrador de Reglamento de IA que contempla normas de transparencia ante un fenómeno que complica cada vez más detectar cuándo se trata de una falsificación y que alimenta la desinformación. El uso de deepfakes, además de atentar contra derechos fundamentales como el honor, la identidad, y la propia imagen, comparte elementos con otros delitos ya regulados en el Código Penal, como el acoso o la extorsión (en el caso de las pornovenganzas), la propiedad intelectural, injurias o calumnias.

La Policía Nacional insiste en que en una situación como esta, "hay que denunciarlo inmediatamente", y explica que no es una novedad: "Hace muchos años que existe, lo que antes eran mecanismos muy rudimentarios que creaban montajes muy burdos, y ahora son muy realistas y fáciles".

Igualmente, además de denunciar, es necesario ponerse en contacto con la Agencia de Protección de Datos, ya que disponen de un canal prioritario en el que cuando hay constancia de este tipo de fotografías en una determinada web, cuentan con los mecanismos para eliminarla y parar su difusión. "A parte de la vía penal, también hay que tener en cuenta la administrativa, ya que el simple hecho de colgar una foto en interner sin consentimiento puede suponer sanciones de hasta 10.000 euros".

Por último, hay que tener en cuenta que cuando se crea un perfil en una red social, las imágenes pasan a ser públicas, diferente es "el uso que hacen terceros con esas fotografías".

¿Te ha parecido interesante esta noticia?    Si (0)    No(0)

+
0 comentarios