"Una imagen falsa provoca un daño real": advierten sobre el uso de inteligencia artificial para desnudar a alumnas y difundir sus fotos

La utilización de inteligencia artificial para crear imágenes sexuales falsas de adolescentes encendió una nueva alarma sobre las formas de violencia digital que pueden producirse dentro de las comunidades educativas.

El caso de una escuela privada de Lomas de Zamora, donde se denunció que estudiantes habrían manipulado fotografías de 40 compañeras para generar imágenes íntimas y difundirlas en internet, abrió un debate sobre la responsabilidad de las instituciones, el acompañamiento familiar y las consecuencias que este tipo de situaciones puede provocar en las víctimas.

En su columna de Espejos Sociales, dentro del programa Actualidad 2.0, la licenciada en Psicopedagogía Paula Saavedra analizó la problemática y advirtió que no se trata de una simple broma entre adolescentes.

"Estas situaciones se tipifican como violencias sexuales digitales. Está justamente el nombre que recibe, el deepfake sexual, que es como una imagen que está alterada", explicó.

"No es una broma: esta imagen falsa trae un daño real"

Saavedra sostuvo que uno de los principales problemas es la tendencia a minimizar las consecuencias de las imágenes creadas mediante inteligencia artificial porque no corresponden a fotografías reales.

Sin embargo, remarcó que el impacto emocional y psicológico sobre las personas afectadas puede ser profundo.

"No, no, no es una broma, esta imagen falsa trae un daño real en la persona", afirmó.

La especialista explicó que las víctimas pueden experimentar situaciones de angustia, miedo, aislamiento y otras consecuencias psicológicas que no desaparecen necesariamente cuando las imágenes dejan de circular.

"La violencia que se infringe en las chicas en este caso continúa en la mente de la víctima mucho después de que este contenido deje de estar disponible", señaló.

También advirtió sobre el riesgo de que este tipo de agresiones genere problemas graves de salud mental, por lo que insistió en la necesidad de brindar acompañamiento y protección a quienes atraviesan estas situaciones.

El cuestionamiento a la escuela por su respuesta

Durante la entrevista, Saavedra fue especialmente crítica con la actuación que, según relató, habría tenido la institución educativa donde se denunciaron los hechos.

La psicopedagoga sostuvo que las autoridades escolares habrían tomado conocimiento de la situación antes que las propias familias y que no habrían respondido con la gravedad que el caso requería.

Según explicó, las familias tuvieron que realizar reclamos y una sentada frente al establecimiento para conseguir que el caso tomara estado público.

"Las instituciones son también espacios de garantía de derechos para los menores", remarcó.

La especialista consideró que las escuelas no pueden desentenderse de situaciones que involucran violencia digital entre sus estudiantes.

Desde su perspectiva, la prevención requiere adultos presentes, espacios de diálogo y mecanismos claros de intervención cuando se detectan conductas que pueden vulnerar los derechos de niños, niñas y adolescentes.

La responsabilidad de los adultos y las señales de alerta

Saavedra también planteó que el problema no se limita a las instituciones educativas.

La especialista sostuvo que las familias deben involucrarse en el uso que hacen los adolescentes de sus dispositivos y en los contenidos que consumen o comparten.

"Un chico que está 12 horas metido en el teléfono en la habitación solo, ¿no es una señal? Es una señal", expresó.

A partir de ese ejemplo, invitó a reflexionar sobre los vínculos que los adultos construyen con los adolescentes y los espacios de confianza disponibles para hablar de lo que sucede en internet.

"¿Qué están haciendo los chicos? Esa es la pregunta. ¿Qué lazos tengo yo con ese adolescente? ¿Qué confianza tiene?", planteó.

También consideró necesario trabajar sobre la cosificación de las mujeres, las relaciones de poder y la naturalización de conductas violentas en entornos digitales.

Las consecuencias legales de crear y difundir imágenes sexuales falsas

Durante la columna también se abordaron las posibles consecuencias judiciales de utilizar inteligencia artificial para producir y distribuir imágenes sexuales de menores de edad.

Saavedra explicó que estas situaciones pueden constituir delitos y que, cuando involucran a adolescentes, deben analizarse dentro del marco legal correspondiente.

En el programa se hizo referencia al artículo 128 del Código Penal argentino, que contempla delitos relacionados con representaciones de abuso sexual de menores.

La calificación penal concreta de cada hecho depende de las características del material, las conductas realizadas y la interpretación judicial aplicable.

La especialista insistió en que la utilización de inteligencia artificial no elimina la gravedad de la conducta ni el daño que puede generar.

Qué hacer si aparecen imágenes de este tipo

Uno de los momentos más importantes de la entrevista estuvo dedicado a explicar cómo actuar cuando una familia, docente o integrante de una comunidad educativa toma conocimiento de imágenes sexuales falsas de menores.

Saavedra recomendó no compartir ni reenviar el contenido, preservar los datos necesarios para una denuncia y recurrir a las autoridades correspondientes.

"Dejamos de distribuirlo, no lo compartimos, no lo reenviamos a nadie, guardamos las pruebas", explicó.

También mencionó la importancia de conservar enlaces, nombres de usuario, fechas y otros datos que permitan identificar el origen y la circulación del material, evitando generar nuevas copias de las imágenes.

Con esa información, señaló que se puede acudir a una fiscalía, comisaría o unidad especializada en ciberdelitos.

"Bajalo Ya", una herramienta para frenar la circulación

La psicopedagoga también mencionó una herramienta llamada Bajalo Ya, destinada a facilitar los pedidos de retiro de imágenes íntimas de menores de edad que circulan en plataformas digitales.

"Acá en Argentina hay una aplicación que se llama Bajalo Ya, que ayuda en el proceso de retirar todo el material virtual de fotos y videos de menores en las plataformas", explicó.

Saavedra aclaró que el uso de esta herramienta no reemplaza la denuncia ante las autoridades judiciales.

La finalidad es intentar detener la difusión del material y reducir la exposición de las víctimas.

"Todos somos responsables"

En el cierre de su columna, la licenciada insistió en que la prevención de estas formas de violencia requiere el compromiso de toda la comunidad.

Planteó que no alcanza con intervenir cuando el daño ya se produjo, sino que es necesario trabajar previamente en el diálogo, la educación digital y la protección de los derechos de niños, niñas y adolescentes.

"Si vemos esto, dejamos de distribuirlo, no lo compartimos, no lo reenviamos a nadie", reiteró.

Para Saavedra, la responsabilidad no recae únicamente sobre los padres o los docentes, sino sobre todos los adultos que pueden detectar una situación de vulneración de derechos y contribuir a detenerla.

La especialista dejó un mensaje central: aunque una imagen haya sido fabricada mediante inteligencia artificial, el daño que puede ocasionar sobre una adolescente es completamente real.

Fuentes: Actualidad 2.0, declaraciones de Paula Saavedra