La app que han utilizado para desnudar a niñas es pirata y se difunde por Telegram

El uso de la Inteligencia Artificial está planteando una serie de cuestiones legales, como las que se han podido conocer recientemente con el retoque de fotos que le han hecho a casi 30 menores de edad en Extremadura, a las que han desnudado con un programa para difundir luego sus imágenes.

Desde abril de 2021 la Unión Europea propuso el primer marco regulador para la Inteligencia Emocional. En junio de este año, 2023, se aprobó desarrollar una ley que consistiera en crear categorías según el nivel de riesgo al que se enfrenta el usuario cuando hace uso de la IA. Si todo sale según lo previsto, dicha ley (que funcionaría a nivel europeo) debería estar lista para finales de este mismo año y sería la primera ley reguladora de su uso.

Sin embargo hasta que ésta esté aprobado, el organismo que regula el uso de la Inteligencia Artificial sería la Agencia Española de Protección de Datos. A fecha de hoy la Agencia ha abierto ya 51 expedientes por ciber acoso en solo un año. De todos ellos, el 70% está relacionado con contenidos donde hay violencia digital hacia mujeres y niñas. En estos casos las multas oscilarían entre los 5.000 y los 10.000 euros pero si el infractor es un menor, como en el caso ocurrido en Almendralejo (Badajoz) quienes deben hacer frente a esa multa son sus padres.

La primera sanción de este tipo se impuso recientemente, concretamente en 2022 cuando un menor, de 16 años, difundió contenido íntimo de otra menor de 13 años cuya foto había retocado. Los padres de este menor tuvieron que pagar una multa administrativa de 5.000 euros por lo sucedido. Para que se indemnice a la persona afectada en estos casos se hace necesario poner una denuncia por la vía penal.

Stella Luna de María, experta en tecnología, ha explicado en La Mirada Crítica, de Telecinco, que el programa que los niños de Almendralejo han usado es una aplicación pirata que no está está en Android ni Apple. Se ha desarrollado en Ucrania o Rusia (no se sabe aun con seguridad dónde) y se ha distribuido a través de Telegram con el fin de crear contenido de tipo pornográfico.

La importancia de denunciar

Cuando llega a las manos de las personas este tipo de contenido no solo sucede que su difusión se convierte en un delito sino que es imprescindible denunciar ante la Policía lo ocurrido. Cuando esto sucede, en el 90% de los casos ese contenido ilegal acaba borrado de internet en las primeras 24 horas.

Por el momento el caso acontecido en Almendralejo reúne a casi 30 víctimas. Sobre los agresores solo la madre de un menor que no creó las fotos pero sí participó en el grupo de Telegram en el que se estaban difundiendo ha pedido disculpas y ha querido ir a comisaría con su hijo para esclarecer lo ocurrido.