Deepfakes en Santa Fe: estallan denuncias por mujeres y adolescentes metidas en fotos y videos porno hechos con IA

La Inteligencia artificial es una nueva herramienta con alcances insospechados todavía, pero ya mostró su lado oscuro: en los últimos meses estallaron escándalos de videos sexuales de mujeres, muchas de ellas menores, utilizando rostros de –por ejemplo– compañeras de colegio de los autores. Y en buena parte de los casos las filmaciones alteradas se ponían a la venta, o incluso se comercializaban los “servicios” de edición de videos para terceros. Esas nuevas vertientes, que involucran en buena medida a jóvenes y adolescentes con conocimientos informáticos, que llegaron a poner la imagen del ex presidente Alberto Fernández cantando con su voz el tema de Cacho Castaña “Si te agarro con otro te mato”, se conocen genéricamente como “deepfakes”. La traducción podría ser “engaño” profundo, y lo que está creciendo exponencialmente en redes son las alertas por la invasión a la intimidad que representan y su potencial uso en campañas electorales.

Las técnicas de manipulación de imágenes, con montajes de rostros con cuerpos de otras personas, variaciones de entornos, y otras ediciones ya cuentan con tutoriales en la web, y el ofrecimiento de herramientas de pago que ya son generadoras de efectos especiales, animaciones, falsificaciones y más.

En la Argentina en los últimos meses se denunciaron varios, generalmente vinculados a contenido sexual. En Santa Fe, en San Jerónimo Sud, a 30 kilómetros de Rosario en el departamento San Lorenzo, una docena de víctimas destapó un caso de adultos. En esa localidad de poco más de 3 mil habitantes comenzaron a circular fotos y videos porno de unas 80 mujeres residentes, todo indica que editados con IA. En el hecho está involucrado un hombre de 49 años. La difusión comenzó en agosto del año pasado, pero el escándalo fue creciendo –y sigue– con el paso de los meses.

La alteración de fotos y videos con otros rostros se vuelve un delito cada vez más común. Un caso reciente generó indignación cuando trascendió que un alumno de 15 años de una escuela del municipio bonaerense de San Andrés, partido de San Martín, vendía fotos de sus compañeras modificadas con IA para mostrarlas desnudas y las vendía.

Y más recientemente en un colegio privado de Resistencia, Chaco, se dio la misma situación, que la Policía de la provincia está investigando para dar, esta vez, con un grupo de autores y determinar si comercializaban las imágenes. Ambos casos estallaron este mes de octubre.

En todos los casos los montajes se hacen a partir de fotos reales que las víctimas tienen en sus redes sociales personales, y el resultado parece real, pero ha sido generada por IA.

En San Jerónimo Sud se usaba un canal de Telegram, una aplicación de mensajería que se precia de ser más segura que Whatsapp. El grupo se llamaba “Chicas de la zona”.

El fiscal Aquiles Balbis inició una investigación para ver quién era el responsable del chat. Tras el allanamiento descubrieron unas 80 mil imágenes. Lo que hay en este marco es una causa civil, y no penal. Es decir, calumnias e injurias. Pero, para avanzar, las víctimas deberían presentarse como querellantes. Y por motivos que todavía no están claros, muchas prefieren no hacerlo.

De igual modo trascendió que el presunto autor fue imputado además por tenencia de pornografía infantil.