Deepfake porn, la Inteligencia Artificial da nueva cara al ciberacoso escolar

Enfoque

Introducción

En 2017 el filósofo español Aníbal Monasterio Astobiza urgió a monitorizar y cuantificar el impacto moral de los algoritmos en la vida de las personas, advirtiendo que son una suerte de caja de pandora cuyas actuaciones pueden ser catastróficas. Hoy a ocho años después (2024) la historia reciente le concede la razón. La Inteligencia Artificial, con sus algoritmos de aprendizaje profundo, es utilizada como instrumento de violencia psicológica en el ámbito escolar, donde cientos de alumnas, son víctimas de deepfake porn, luego de que sus propios compañeros han generado fotografías y videos pornográficos con aplicaciones que han permitido transformaciones no autorizadas, con el propósito de causarles daño.

El fenómeno malicioso se había circunscrito al ámbito de las celebridades, pero hoy traspasa los muros de los centros educativos, diezmando una población mayormente de menores, que sufren desasosiego al ver destruida su reputación y transitando por caminos de angustia, insomnio, desnutrición, fobia social, ideaciones suicidas afectando su salud mental.

España, México y Estados Unidos son los puntos neurálgicos en la eclosión de estos ataques de ciberviolencia, pero seguramente surgirán en otras partes del mundo, donde la Inteligencia Artificial haga su arribo.

Objetivos

Determinar la incidencia de deepfake porn en el ámbito escolar, toda vez que se ha generalizado el uso de chatbot y otras aplicaciones que permiten al usuario trasformar utilizar voz, fotografías y vídeos de personas para usarlas o no con fines perversos.

Metodología

Se realizó un estudio exploratorio, descriptivo y longitudinal revisando las publicaciones de periódicos en línea con el fin de encontrar denuncias publicadas en esos medios, donde se diera a conocer casos de deepfake porn, donde las víctimas fueran alumnas, alumnos o miembros de la planta docente.

Resultados

España

Encontramos informaciones relacionadas con el caso de 22 alumnas de una escuela secundaria de Almendralejo, España, a quienes sus propios compañeros les robaron fotografías de sus redes sociales y las trasformaron en imágenes donde aparecían  desnudas.

México

La Fiscalía General de Justicia de la Ciudad de México informó la detención de un alumno del Instituto Politécnico Nacional, que transformó 20 mil fotografías que vendía en a otros estudiantes a través de grupo privados de Telegram. Ocho de las victimas eran alumnas de ese centro universitario.

Estados Unidos

Una estudiante de Nueva Jersey denunció que fotografías de su persona y de otras 19 compañeras fueron saqueadas de sus perfiles de sus redes sociales y transformadas haciéndolas aparecer desnudas, por compañeros de su escuela secundaria que las distribuyeron en las redes sociales.

En Pensilvania una madre de familia fue detenida por la Policía acusada de manipular fotos y videos de antiguas compañeras de secundaria de su hija, con el propósito de hacerlas abandonar un equipo de animación.

Conclusiones

La Inteligencia Artificial se ha convertido en una amenaza para la salud física y mental de menores de edad, al caer en manos de estudiantes que trasforman fotografías y vídeos en material pornográfico, para dañar psicológicamente a sus compañeros, en el uso de chatbot y otras aplicaciones donde los algoritmos son utilizados maliciosamente.