El joven, de 14 años, utilizó fotografías obtenidas de las redes sociales de las víctimas para generar imágenes falsas de contenido sexual.
El Ministerio del Interior ha informado de que la Guardia Civil investiga a un menor de 14 años, vecino de Logroño, como presunto autor de varios delitos tras crear y difundir imágenes falsas de contenido sexual de nueve compañeras de instituto mediante el uso de herramientas de Inteligencia Artificial (IA).
Las víctimas, todas ellas menores de edad, fueron objeto de una manipulación digital realizada a partir de fotografías extraídas de sus perfiles públicos en redes sociales. Posteriormente, las imágenes fueron publicadas en una página web para adultos, donde alcanzaron una gran difusión antes de ser retiradas.
Obtuvo las fotografías de las redes sociales de las víctimas
La investigación ha sido llevada a cabo por agentes del Equipo de Investigación Tecnológica (EDITE) y del Equipo@ de la Guardia Civil.
Según las pesquisas, el menor conocía personalmente a las nueve jóvenes y seguía sus perfiles en redes sociales. Aprovechando que las fotografías eran de acceso público, las descargó sin el consentimiento de las afectadas y recurrió a herramientas de Inteligencia Artificial para manipularlas, desnudarlas digitalmente y generar imágenes falsas de carácter sexual, conocidas como deepfakes.
Difundió las imágenes en una plataforma para adultos
Una vez creado el contenido manipulado, el joven lo publicó en una página web de pornografía para adultos.
Con el propósito de aumentar su difusión, creó además un perfil en la plataforma con la descripción «Subo chicas de mi insti hechas con IA». Organizando el material en carpetas individuales en las que aparecían datos personales de cada una de las víctimas.
De acuerdo con la investigación, esta actuación facilitó la identificación de las menores y multiplicó el daño ocasionado a su intimidad, así como el impacto emocional y social sufrido por todas ellas.
El contenido alcanzó cerca de 40.000 visualizaciones
Antes de que las imágenes fueran eliminadas de la plataforma, el contenido falso ya había registrado cerca de 40.000 visualizaciones, lo que provocó que el perjuicio sufrido por las nueve menores se amplificara de forma incontrolable en apenas unas horas.
La rápida difusión de este tipo de contenidos en Internet dificulta su eliminación total y multiplica el impacto sobre las víctimas.
El menor está siendo investigado por varios delitos
Como consecuencia de los hechos, la Guardia Civil investiga al joven como presunto autor de los delitos de:
- Descubrimiento y revelación de secretos.
- Corrupción de menores.
- Pornografía infantil.
Las diligencias han sido remitidas a la Fiscalía de Menores, de acuerdo con lo establecido en la Ley Orgánica 5/2000, reguladora de la responsabilidad penal de los menores.
El joven podría enfrentarse a las medidas penales y educativas previstas en la normativa para este tipo de conductas.
Los padres deberán responder por los daños ocasionados
Además de las posibles consecuencias para el menor, la legislación vigente establece que sus padres o tutores legales deberán responder de forma solidaria por los daños morales ocasionados a las víctimas.
Esta responsabilidad civil podría traducirse en indemnizaciones económicas de elevada cuantía para compensar el perjuicio sufrido por las menores.
Un caso que vuelve a alertar sobre el uso indebido de la Inteligencia Artificial
Este nuevo caso pone de relieve los riesgos asociados al uso irresponsable de la Inteligencia Artificial para crear y difundir imágenes falsas de contenido sexual.
Tal y como recuerda el Ministerio del Interior, el empleo de estas tecnologías con fines ilícitos puede acarrear graves consecuencias penales y civiles. Especialmente cuando las víctimas son menores de edad, además de provocar un importante daño a su intimidad, dignidad y bienestar emocional.
