Internet y las tecnologías digitales han abierto nuevas posibilidades para el progreso humano y también nuevas oportunidades para el daño. Las personas autoras de estos delitos se aprovechan de las pocas normas aplicables y la naturaleza sin fronteras de Internet para captar con fines sexuales o de trata, acosar, extorsionar y violar a sus víctimas dentro y a través de jurisdicciones con mayor impunidad.
Según las Naciones Unidas, la violencia de género facilitada por la tecnología es todo acto que se comete, asiste, agrava o amplifica mediante el uso de las tecnologías de la información y las comunicaciones u otras herramientas digitales, dirigida a personas en función de su género.
El abuso y la explotación sexual en línea es una manifestación central de violencia de género facilitada por la tecnología y abarca muchos comportamientos nocivos que ocurren en línea, tales como:
Los avances tecnológicos y digitales también han facilitado la impunidad para la captación con fines sexuales, el reclutamiento, el abuso y la explotación sexual. Quienes cometen estos delitos usan cada vez más las redes sociales y las plataformas de juegos en línea para apuntar a posibles víctimas porque estos espacios facilitan el anonimato y la normativa aplicable es muy deficiente.
La masificación del uso de la inteligencia artificial, sus algoritmos y los sistemas de aprendizaje automático, sin suficientes garantías de derechos humanos aplicables, agravan estos desafíos. De esta forma, se replican y magnifican los sesgos que exacerban la misoginia y las divisiones raciales y religiosas. Estas desigualdades sistémicas afectan desproporcionadamente a las mujeres y las niñas, que quedan particularmente vulnerables a la violencia en línea, la discriminación y las violaciones de sus derechos. Las conductas impulsadas por algoritmos automatizados llevan a hombres jóvenes por caminos que conducen a un comportamiento misógino cada vez más violento, fomentan y la aparición de ideologías peligrosas, y dan lugar a un aumento de la violencia de género contra las mujeres y las niñas, dentro y fuera de la pantalla.
Las mujeres y niñas están particularmente desprotegidasya que los autores se aprovechan de la discriminación estructural por motivos de sexo y género inherente a nuestra sociedad patriarcal, y la desigualdad económica que las hace vulnerables a la explotación y el abuso.
Ciertos grupos enfrentan niveles elevados de violencia de género facilitada por la tecnología debido a formas de discriminación interseccionales.
El efecto, esto significa que muchas mujeres y niñas no sólo son objeto de ataques con más frecuencia, sino que también tienen menos probabilidades de recibir apoyo o justicia. Para atacar las causas de la violencia de género facilitada por la tecnología hace falta una perspectiva interseccional que centre las experiencias de las más marginadas y aborde tanto las tácticas digitales que se usan como los daños reales que causan.
Hay que fortalecer las leyes y políticas para atender mejor las dimensiones tecnológicas de la trata de personas.
El creciente uso indebido de las herramientas y plataformas digitales favorece la violencia de género facilitada por la tecnología. Quienes ejercen este tipo de violencia aprovechan internet para reclutar y explotar a mujeres y niñas; usan tecnologías para evadir la detección, alcanzar audiencias más amplias y difundir contenido que promueve la explotación.
Específicamente, en nuestro Informe sobre el abuso y la explotación sexual en línea encontramos que la falta de legislación consistente y promulgada de manera uniforme a nivel internacional vinculada al abuso y la explotación sexual en línea obstaculiza el ejercicio de la justicia en estos casos.
La violencia de género facilitada por la tecnología es un problema global, multijurisdiccional y multidimensional que necesita de respuestas coordinadas de los gobiernos, los poderes judiciales, las plataformas de internet y la comunidad internacional. Las iniciativas nacionales, incluidas las leyes, deben contar con un apoyo fuerte e interconectado a nivel internacional. Una respuesta global es clave para garantizar una protección adecuada para todas las personas en todas partes.
Para abordar la violencia de género facilitada por la tecnología y el abuso y explotación sexual en línea, tanto organismos regionales e internacionales como gobiernos nacionales, proveedores y plataformas de servicios digitales deben tomar medidas:
Muchas leyes que protegen a los usuarios frente a los daños en línea suelen recibir críticas fundamentadas en un posible perjuicio a la libertad de expresión, un derecho fundamental para la participación digital. Sin embargo, la libertad de expresión y la seguridad en línea no son mutuamente excluyentes. El acoso, la explotación y el abuso en línea se usan como herramientas para silenciar a las mujeres, socavar su libertad de expresión y limitar su capacidad para participar en el ámbito digital.
El derecho a la privacidad es otro pilar de un ámbito digital y una sociedad que funcionan bien. Esto incluye la protección de datos personales y la confidencialidad de las comunicaciones. Sin embargo, el anonimato en internet no debe usarse para proteger a los abusadores de ser identificados cuando dañan a otras personas en línea. Este derecho está estrechamente vinculado con la seguridad, protege a las personas, particularmente a las mujeres y las niñas, de interferencias no deseadas en sus vidas personales. Además, ayuda a prevenir daños como el abuso basado en imágenes. Para que el espacio digital funcione bien, deben respetarse los derechos de los usuarios a la libertad de expresión, la privacidad y la protección contra daños. Esto último significa que, además, las personas también tienen el derecho a la libertad de no sufrir daños, por ejemplo, aquellos causados por la violencia de género facilitada por la tecnología.
Estos derechos pueden generar tensiones y plantear preguntas fundamentales sobre cómo equilibrarlos cuando hay conflicto de intereses entre la ley, las políticas y la práctica. Esta problemática se extiende a los proveedores de servicios digitales y plataformas, especialmente en cómo detectan, moderan y eliminan contenido de abuso y explotación sexual.
El Pacto Internacional de Derechos Civiles y Políticos (PIDCP) proporciona un marco jurídico para limitar la libertad de expresión en circunstancias definidas de manera estricta, como para proteger los derechos y la reputación de otras personas, la seguridad nacional, el orden público o la salud. . Estos límites y acciones son parte de tratados regionales y constituciones nacionales, y están regidos por el análisis de proporcionalidad, que examina si una restricción cumple o no con los siguientes requisitos:
Los tribunales de distintas jurisdicciones analizan la proporcionalidad de las restricciones como justificaciones específicas para limitar contenido nocivo en línea. Esto refuerza la comprensión de que la libertad de expresión, la privacidad y la libertad de no sufrir daños pueden coexistir. Equality Now cofundó AUDRi para promover un enfoque equilibrado, que garantice que los marcos jurídicos de derechos digitales protejan todos los derechos e intereses. Esto incluye proteger la libertad de expresión y la privacidad, así como salvaguardar a las personas, en particular a las mujeres y las niñas, frente a las violencias en línea.