“Violencia de género digital”: llega a la Justicia un nuevo tipo de delito
En Río Negro resolvieron llevar a juicio a un grupo de adolescentes por manipular imágenes de compañeras de colegio con Inteligencia Artificial para exhibirlas desnudas en redes sociales con fines extorsivos.
La Justicia de Río Negro resolvió llevar a juicio a un grupo adolescentes denunciado por adulterar fotos de sus compañeras con Inteligencia Artificial (IA) con el fin de ofrecerlas a cambio de dinero en redes sociales. Encuadrada como “violencia de género digital”, la judicialización del caso constituye una de las primeras abocadas a evaluar un modalidad -con un antecedente cercano en La Plata- que comenzó a darse recientemente gracias a la popularización de herramientas de inteligencia artificial.
El surgimiento de plataformas de Inteligencia Artificial abiertas al uso público viene disparando algunos delitos que, si bien ya existen desde hace tiempo, nunca habían resultado tan accesibles y difíciles de advertir. Es el caso de la adulteración de imágenes con fines extorsivos. Este año se conocieron al menos cuatro casos de chicos denunciados por fraguar imágenes pornográficas de sus compañeras de curso en distintas ciudades del país.
En las ultimas horas uno de ellos volvió a estar en el foco de la atención.
Y es que la Cámara de Apelaciones de Río Negro rechazó el recurso de apelación presentado por la familia de un adolescente denunciado por esa causa. La decisión judicial confirmó así la resolución de la jueza subrogante de Familia, Ángela Sosa, que determinó medidas cautelares argumentando la existencia de “violencia de género digital”.
El caso en cuestión tiene involucra a un grupo de jóvenes de la ciudad de General Roca que utilizaba fotos de las caras de sus compañeras para recrear imágenes pornográficas con una herramienta de Inteligencia Artificial.
En agosto pasado, tras la denuncia de un estudiante, que es compañera de escuela de los denunciados (cuyos nombres, por ser menores de edad no se dieron a conocer), la Justicia rionegrina fijó contra ellos una prohibición de acercamiento de 200 metros por un plazo de 90 días, incluyendo el establecimiento educativo en el que comparte con la víctima, y la obligación de asistir a un espacio terapéutico enfocado en masculinidades y violencia de género.
Frente a estas medidas, la familia de uno de los adolescentes investigados presentó su apelación señalando que se había vulnerado el debido proceso y el derecho de defensa, al considerar que se carecía de fundamentación adecuada.
En ella sostenía también que el menor había sido estigmatizado con acusaciones falsas y que la decisión judicial implicaba discriminación por su edad, vulnerando su derecho a la educación y actividades deportivas.
No obstante la Cámara sostuvo en su fallo que los argumentos de la familia no resultaban suficientes para modificar lo resuelto en primera instancia, a la vez que resaltó que, además de ser menor de edad, la denunciante se encontraba atravesada por circunstancias de género y violencia digital, que requerían un enfoque interseccional en el análisis del caso. Esto incluyó la consideración de factores como el impacto diferencial de la violencia de género en mujeres jóvenes y adolescentes.
El antecedente local
Al menos media docena de casos similares a éste, todos ellos con adolescentes en ámbitos educativos, se conocieron a lo largo de este año en distintas ciudades del país: Córdoba, San Lorenzo, Santa Fe, Chaco, San Martín y La Plata fueron algunas de ellas.
El hecho que conmocionó a la comunidad educativa platense tuvo lugar en junio pasado en el colegio San Cayetano, donde un alumno fue denunciado judicialmente por adulterar fotos de una compañera usando inteligencia artificial.
La denuncia fue radicada por la mamá de la víctima luego de que la chica recibiera decenas de mensajes de diversos números con fotos suyas en situación de desnudez. Al analizarlas, los investigadores constataron que se trataban de imágenes trucadas y editadas a través de la IA, lo que en la jerga tecnológica se denomina “deepfakes”.
La investigación desembocó a su vez en la orden para realizar el allanamiento en la casa del joven, donde se secuestraron tres teléfonos, un router, una tablet y una computadora personal.
El denunciado, que no podría ir preso por ser menor de edad, quedó sin embargo involucrado en una causa por “Producción, Ofrecimiento, Comercialización, Publicación, Facilitación y Divulgación de Material Pornográfico a Menores de 14 años”, que se encuentra en manos de la Fiscalía del Joven.