Imágenes falsas, víctimas reales: los peligros de la Inteligencia Artificial

La manipulación de imágenes entre los menores preocupa a educadores, padres y juristas. ¿Cómo se sancionan estas prácticas? Lorenzo del Río, presidente Tribunal Superior de Justicia de Andalucía, plantea que en uno o dos años habrá que hacer una reforma penal en profundidad. ¿Qué daños morales provocan en las víctimas?

Hace solo unos días, conocíamos las denuncias de al menos veinte chicas menores en Almendralejo, Badajoz, cuya imagen se había manipulado con Inteligencia Artificial para aparecer desnudas. Una veintena de adolescentes de la localidad, también menores, estarían implicados en la manipulacion fotográfica. La preocupación es enorme entre las famalias de las afectadas. Temen que las fotos retocadas aparezcan en plataformas de contenido pornográfico. Los avances tecnológicos de fácil acceso son cada vez más utilizados en la comisión de delitos. Esta noche nos preguntamos si la legislacion actual es suficiente para combatirlos.

Han sido conocidos los casos de las imágenes del papa Francisco acudiendo en invierno a sus vistas pastorales ataviado con un anorak de diseño valorado en 1200 euros. O Emmanuel Macron colaborando en la recogida de basuras de París cada vez que se producen manifestaciones contra su reforma de las pensiones. Donald Trump fue reducido por la policía cuando era conducido al juzgado que investiga su implicación en el asalto al Capitolio. Todas eran imágenes falsas.

Parece verdad, pero no es cierto. Nada de esto ha ocurrido. Y sin embargo, aunque solo fuera por un instante, muchos de los que vieron estas imágenes pensaron que era real. Que no había truco. La inteligencia artificial ha diluido la frontera entre lo falso y lo verosímil, entre el engaño y la simulación. A veces adopta la forma de un juego y en el peor de los casos se convierte en delito.

Una apacible localidad extremeña acaba de descubrirlo. Almendralejo es la ciudad más literaria de Extremadura. Aquí nacieron los poetas románticos José de Espronceda y Carolina Coronado, así que es normal que la imagen de ambos salga a nuestro encuentro a cada paso. De un tiempo a esta parte, sin embargo, nadie aquí está para poesías, mucho menos después de lo que ha ocurrido.

Miriam Al Adib, ginecóloga y divulgadora, natural de Almendralejo y con clínica propia en la localidad, fue la última madre en enterarse de lo que estaba ocurriendo y nos cuenta el caso de su hija, a la que tuvo que decirle: "Tú no has hecho nada malo, esto no es tu culpa y tú no te tienes que avergonzar de nada porque esta no eres tú y no has hecho nada malo". Y tomó cartas en el asunto, dándole a conocer a través de su canal de Instagram, que cuenta con 140.000 seguidores.

El caso estalló a mediados de septiembre, pero hoy se sabe que los montajes fotográficos ya circulaban en distintos grupos de guasap desde el mes de julio. La investigación policial, que sigue abierta, se basa en la veintena de denuncias presentadas por las familias de la víctimas, todas jóvenes de la localidad, con edades comprendidas entre los once y los diecisiete años.

La inteligencia artificial es imparable, para lo bueno y para lo malo. Las aplicaciones que ofrecen manipulaciones gráficas son muchas y cada vez más avanzadas, y aquellas que proponen desnudar con realismo la figura de una mujer están muy solicitadas. Acceder a una aplicación de pornografía sintética es muy fácil y extraordinariamente barato. Por muy poco dinero se puede obtener un álbum con 25 fotografías tratadas digitalmente y con un realismo asombroso. Es verdad que este tipo de aplicaciones exigen al usuario que declare tener más de 18 años, pero como comprenderán, nada ni nadie verifica esa supuesta mayoría de edad.

La manipulación de rostros y el montaje de imágenes se remontan a 1860 coincidiendo con los primeros pasos de la fotografía. Con este panorama, el éxito de la IA con fines pornográficos es enorme, especialmente entre los jóvenes, nos dice el abogado Pedro López de Lemus, experto en ciberseguridad y derecho digital. Hace apenas diez años, manipular digitalmente una imagen requería tener amplios conocimientos técnicos y aun así, el resultado obtenido estaba muy lejos de ser óptimo. "Hoy cualquiera entra en una pagina web, mete una fotografía que puede haber cogido del cualquier sitio en internet y obtiene al momento una imagen de una persona que puede vulnerar el derecho a la propia imagen, el derecho al honor, a la intimidad y a la protección de sus datos personales". Y el resultado es tan verosímil, que se hace muy difícil distinguir lo verdadero de lo falso.

La Unión Europea prevé aprobar en los próximos meses una ley de IA que incluirá una nueva clasificación de riesgos potenciales. Un problema que ha abierto de par en par un intenso debate sobre como afrontar jurídicamente casos como este, que no son nuevos, pero que cobran cada vez mayor alcance.

Lorenzo del Río, presidente Tribunal Superior de Justicia de Andalucía, dice que "en uno o dos años habrá que hacer una reforma penal en profundidad de cómo está afectando la inteligencia artificial a la intimidad, a la personalidad, a cualquier derecho a la imagen que ahora mismo se está deteriorando a marchas forzadas". El fiscal de delitos informáticos, Gabriel González, considera no obstante que la con legislación actual es posible perseguir y sancionar con eficacia este tipo de actividades.

Claro que el asunto es más complicado en Almendralejo. Según fuentes de la investigación, son al menos 26 los adolescentes involucrados, aunque no ha trascendido si todos participaron en la elaboración de las imágenes o solo algunos, y cuantos están implicados en la difusión de los montajes. Sí se sabe que cinco de los chicos investigados aun no han cumplido los catorce años. Lo que no significa que el caso se cierre sin que nadie se haga responsable. En su momento, los padres de esos chicos podrían afrontar una indemnización por daño moral.

Mientras tanto, y a la espera de que la investigación concluya, la vida cotidiana en esta localidad trata de reponerse de una sacudida que no deja a nadie indiferente. El alcalde de Almendralejo, José María Ramírez, no oculta su preocupación aunque valora el hecho de que las familias de los chicos denunciados estén dispuestas a asumir la consecuencias. Y la convivencia, se resiente. Algunos familias que denunciaron el montaje fotográfico lamentan que sus hijas se vean sometidas además a una insoportable presión ambiental. Ir a clase o salir de paseo se convierte con frecuencia en un suplicio para las víctimas.

Naturalmente, el núcleo más sensible lo constituyen los centros educativos donde estudian las chicas víctimas del montaje y los chicos acusados de realizarlo y difundirlo. Se nos dice que esos centros trabajan en un protocolo educativo, aunque nada concreto sabemos al respecto. Los directores de los institutos han declinado participar en este reportaje.

Es en Almendralejo donde ha ocurrido y aquí será donde deberá solucionarse un asunto tan espinoso. Y esto puede ser decisivo en el futuro. Porque de como se resuelva y de las medidas que se adopten en Almendralejo dependerá la respuesta social, familiar, jurídica y educativa que adoptemos cuando algo así vuelva a suceder en cualquier otro sitio.