La inteligencia artificial abrió nuevas posibilidades tecnológicas, pero también está siendo utilizada para cometer agresiones que pueden dejar consecuencias profundas. En distintas escuelas secundarias argentinas se encendieron las alarmas por la creación y circulación de imágenes sexuales falsas de estudiantes, manipuladas digitalmente sin su consentimiento.
El fenómeno, conocido como deepfake sexual, consiste en alterar fotografías reales mediante herramientas de inteligencia artificial para fabricar imágenes de desnudez o contenido íntimo que nunca existió. Aunque el material sea ficticio, la exposición, la humillación y el daño que puede provocar son reales.
Uno de los episodios que puso el tema en el centro de la discusión ocurrió en la Escuela Modelo de Lomas de Zamora, donde adolescentes habrían manipulado imágenes de más de 40 compañeras para comercializarlas y difundirlas en sitios pornográficos. A ese caso se sumaron denuncias y situaciones similares en otros establecimientos educativos bonaerenses, lo que reavivó el debate sobre cómo prevenir estas prácticas y qué hacer cuando aparecen.
Cuando una imagen falsa provoca un daño real
Uno de los principales desafíos de esta problemática es comprender que no hace falta que una fotografía íntima sea auténtica para vulnerar los derechos de una persona. La manipulación de la imagen, su circulación entre compañeros y la posibilidad de que llegue a una audiencia mucho más amplia pueden generar angustia, vergüenza, aislamiento y dificultades para desenvolverse en el ámbito escolar.
Desde la organización Kaleidos, dedicada a la protección de los derechos de niños, niñas y adolescentes, remarcaron la importancia de abordar estas situaciones desde el respeto por la intimidad, la dignidad y el consentimiento.
La discusión tampoco puede limitarse a las aplicaciones utilizadas para producir las imágenes. Detrás de estas conductas aparecen cuestiones vinculadas con las relaciones entre pares, la violencia de género, la presión grupal y la naturalización de prácticas que convierten a otras personas en objeto de burla o exposición.
Por eso, los especialistas destacan el valor de la Educación Sexual Integral (ESI) para trabajar sobre los vínculos, el consentimiento y la responsabilidad, tanto en los encuentros presenciales como en los entornos digitales.
Las primeras horas son fundamentales
Cuando una escuela toma conocimiento de un caso, la respuesta inicial puede marcar una diferencia importante. Sin embargo, especialistas advierten que muchas instituciones todavía carecen de procedimientos suficientemente claros para actuar y acompañar a las personas afectadas.
Lucía Fainboim, integrante de Bienestar Digital, señaló que los protocolos disponibles pueden resultar insuficientes y que es necesario definir pasos concretos para las primeras 48 horas, además de establecer mecanismos de seguimiento a mediano y largo plazo.
Ante una situación de este tipo, el abordaje debe priorizar la protección de la víctima, ofrecer espacios de escucha y evitar que tenga que relatar reiteradamente lo sucedido frente a distintas personas. También es fundamental impedir nuevas exposiciones y coordinar la intervención de los equipos escolares, las familias y los organismos especializados que correspondan.
Entre las recomendaciones generales se encuentran:
- Escuchar sin juzgar: ofrecer contención y tomar en serio lo que cuenta el adolescente, sin responsabilizarlo por la agresión.
- Evitar la difusión: no reenviar, publicar ni mostrar las imágenes a otras personas, incluso con la intención de denunciar lo ocurrido.
- Conservar información relevante: registrar enlaces, nombres de cuentas, fechas y mensajes vinculados con los hechos, sin volver a distribuir el material íntimo.
- Activar los canales de protección: comunicar la situación a las autoridades escolares y buscar orientación de organismos especializados o de las autoridades competentes.
- Acompañar más allá de la urgencia: sostener el seguimiento emocional y escolar, contemplando también la intervención con quienes participaron en la creación o difusión del contenido.
- La respuesta no debería agotarse en una sanción disciplinaria. También requiere proteger a la persona afectada, prevenir represalias y trabajar con el grupo escolar para evitar que la violencia continúe bajo otras formas.
Qué herramientas legales existen
El marco jurídico argentino contempla herramientas para abordar distintas manifestaciones de violencia digital. La Ley Olimpia, incorporada a la legislación nacional mediante la Ley 27.736, reconoce la violencia digital o telemática dentro de la violencia contra las mujeres y prevé mecanismos de protección, incluidas medidas cautelares.
Sin embargo, la aplicación de estas herramientas depende de las características de cada caso. La existencia de una imagen manipulada no implica automáticamente que todas las conductas involucradas reciban la misma calificación jurídica: es necesario analizar cómo se obtuvo el material, qué se hizo con él, quiénes participaron y cuáles son los derechos vulnerados.
En el debate público también aparece el proyecto conocido como Ley Ema, como una iniciativa orientada a establecer sanciones frente a la difusión de imágenes íntimas sin consentimiento. Su situación legislativa debe verificarse al momento de informar sobre su eventual aprobación o entrada en vigencia.
Un desafío que excede las aulas
El problema tampoco termina cuando las imágenes dejan de circular dentro de una escuela. Las plataformas digitales permiten que el contenido se copie, se distribuya en otros espacios y permanezca disponible incluso después de que se hayan tomado medidas para retirarlo.
La Defensoría del Pueblo de la Provincia de Buenos Aires informó que trabaja en acciones de acompañamiento, asesoramiento jurídico y prevención, tanto en instituciones educativas como en ámbitos deportivos. A través de iniciativas como el taller Cortá a Tiempo, busca generar conciencia sobre las distintas formas de violencia y sus consecuencias.
La experiencia muestra que la prevención necesita continuidad: no alcanza con reaccionar cuando un caso toma notoriedad pública. Hace falta formar a docentes y equipos de orientación, brindar herramientas a las familias y generar espacios en los que los adolescentes puedan comprender las consecuencias de sus acciones.
Educar para una convivencia digital responsable
La expansión de las herramientas de inteligencia artificial obliga a actualizar las formas de prevención y acompañamiento, pero no reemplaza la necesidad de trabajar sobre valores fundamentales. El consentimiento, el respeto por la intimidad y la responsabilidad frente a lo que se comparte siguen siendo centrales, independientemente de la tecnología utilizada.
En ese escenario, las escuelas necesitan protocolos accesibles, las familias requieren orientación y los adolescentes deben contar con espacios seguros para pedir ayuda sin temor a ser culpabilizados.
El desafío no consiste solamente en aprender a reconocer una imagen falsa, sino en evitar que la tecnología se convierta en una herramienta de hostigamiento. Porque, aunque una imagen haya sido inventada por inteligencia artificial, la persona que queda expuesta y sufre las consecuencias es real.
Diario Ambito