El uso de la inteligencia artificial con fines de violencia digital volvió a quedar en el centro de la escena tras conocerse una denuncia que involucra a estudiantes de la Escuela Superior de Comercio Carlos Pellegrini y del Colegio Nacional de Buenos Aires.
De acuerdo con la investigación judicial en curso, un grupo de alumnos habría utilizado aplicaciones de IA para crear imágenes falsas de compañeras, simulando desnudos a partir de fotografías reales extraídas de redes sociales.
El material, además, habría sido distribuido y vendido dentro de grupos privados integrados por estudiantes.
La denuncia llegó a la Justicia y las escuelas iniciaron actuaciones
Según la reconstrucción de los hechos, las primeras alertas surgieron cuando varias alumnas descubrieron la existencia de carpetas digitales en las que figuraban sus nombres junto a imágenes manipuladas mediante inteligencia artificial.
En algunos de esos archivos también aparecían referencias al precio que debía abonarse para acceder al contenido, lo que abrió la sospecha de una posible comercialización del material.
Las denuncias fueron radicadas ante la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas de la Ciudad de Buenos Aires.
Hasta el momento ingresaron al menos tres presentaciones: una realizada por particulares, otra impulsada por un organismo público y una tercera de carácter anónimo.
La investigación busca establecer quiénes participaron en la creación de las imágenes, cómo se organizaron para difundirlas y si existió un beneficio económico derivado de esas publicaciones.
Las autoridades de la Escuela Superior de Comercio Carlos Pellegrini y del Colegio Nacional de Buenos Aires, ambos dependientes de la Universidad de Buenos Aires (UBA), informaron que activaron los protocolos institucionales correspondientes y manifestaron su disposición para colaborar con la Justicia.
Asimismo, señalaron que brindan acompañamiento a las estudiantes afectadas y trabajan en la preservación de pruebas digitales.
El caso generó además un fuerte impacto dentro de la comunidad educativa. En el edificio del Carlos Pellegrini apareció un mensaje intimidatorio escrito sobre un banco con la frase: «No vamos a parar de desnudarlas y venderlas», hecho que profundizó la preocupación entre alumnos, docentes y familias y que también quedó incorporado a las actuaciones.
El desafío de la inteligencia artificial y la violencia digital
La causa volvió a poner de relieve los riesgos asociados al uso indebido de herramientas de inteligencia artificial capaces de generar imágenes hiperrealistas.
Estas aplicaciones permiten modificar fotografías auténticas para simular escenas que nunca ocurrieron, lo que puede provocar graves consecuencias para las personas afectadas, aun cuando el contenido sea completamente falso.
Especialistas en derecho digital sostienen que este tipo de prácticas constituye una modalidad de violencia digital, ya que vulnera la intimidad, la dignidad y la imagen de las víctimas. En muchos casos, además, el daño se multiplica por la rápida circulación de los archivos en redes sociales y aplicaciones de mensajería, dificultando su eliminación definitiva.
Aunque la investigación se encuentra en una etapa inicial, los investigadores intentan determinar el grado de participación de cada uno de los estudiantes involucrados.
También analizan si existió una organización para producir y distribuir las imágenes o si se trató de acciones individuales coordinadas mediante plataformas digitales utilizadas habitualmente por adolescentes.
