Advierten de que la IA plantea nuevos riesgos en materia de ciberviolencia contra las mujeres

El Parlamento Europeo celebra la semana de la Igualdad de Género bajo el lema ‘La mujer en el mundo digital: seguridad y empoderamiento’

MADRID/MURCIA, 11 Dic. (EUROPA PRESS) –

La Inteligencia Artificial (IA) plantea nuevos riesgos en términos de ciberviolencia contra las mujeres y abre posibilidades «radicalmente nuevas» en términos de facilidad, rapidez, anonimato y amplia difusión, según el informe ‘Ciberviolencia contra las mujeres en la UE’ del Servicio de Estudios del Parlamento Europeo.

La tecnología ‘deep-fake’, que suplanta la voz, la cara, el cuerpo o las acciones de una persona, tiene a las mujeres como principal objetivo y ha dado lugar a medidas legislativas para detenerla e impedirla.

En el marco de la tecnología ‘deep-fake’, la mujer es la principal víctima de la ‘nudificación’ que es la creación de imágenes de personas desnudas sin su consentimiento.

De hecho, más del 902 de todos los vídeos de ‘deep-fake’ en línea son de naturaleza pornográfica y sus víctimas son casi exclusivamente mujeres, a menudo personalidades de la cultura, los medios de comunicación y la política.

El informe advierte de que la IA también plantea riesgos en términos de llevar el abuso a «dimensiones completamente nuevas en cuanto a velocidad, facilidad, cantidad y amplia difusión» y alerta de que puede generar automáticamente abusos en línea, como mensajes de acoso.

Además, permite realizar mucho más rápido y en profundidad análisis del perfil de una persona para generar mensajes de odio y abusivos, encontrar mejores formas de eludir la moderación de contenidos y que los abusadores lleguen a un público muy amplio.

En la misma línea, la IA puede facilitar el robo de identidad, así como el acoso, ser una herramienta muy poderosa para la vigilancia de la vida privada de las víctimas en entornos en línea y fuera de línea y puede permitir el seguimiento a través de cámaras, el análisis de datos digitales, como el correo electrónico y los mensajes, y la localización predictiva.

Esta nueva tecnología también puede facilitar los delitos sexuales contra niñas, ya que los autores pueden utilizar la IA para hacerse pasar por niños o jóvenes y para automatizar la captación de menores desprevenidos a gran escala.

USOS POSITIVOS

Sin embargo, al igual que las tecnologías digitales en general, «la IA es un arma de doble filo para los derechos de la mujer e incluye muchos usos potencialmente positivos para combatir la violencia de género tanto en entornos offline como online».

Por ejemplo, puede hacer posible la identificación de niños que aparecen en imágenes o vídeos de pornografía infantil, vigilar las plataformas en línea para detectar discursos sexistas y misóginos, así como actos de ciberviolencia contra mujeres individuales.

El informe también señala que los algoritmos de hash pueden ayudar a identificar fotos y buscar contenidos ilegales conocidos, mientras que las herramientas de IA basadas en modelos de aprendizaje automático pueden buscar contenidos ilegales desconocidos hasta ahora.

LA INTERSECCIÓN CON LA VIOLENCIA EN LA VIDA REAL

El estudio apunta a que una de las dificultades a la hora de abordar la ciberviolencia contra las mujeres es su intersección con la violencia en la vida real, donde los actos en el mundo digital conducen a la violencia física, ya sea inspirada por la ciberviolencia o como continuación de ésta.

«Esto no quiere decir que la ciberviolencia en sí misma tenga un impacto menor en sus víctimas, sino que la violencia física que puede derivarse de ella exacerba la ciberviolencia», como sucede en la pornografía.

Otro ejemplo de la posible propagación del abuso digital a la vida real es la radicalización misógina y antifeminista en las plataformas en línea, advierte el informe.

SEMANA DE LA IGUALDAD DE GÉNERO

El Parlamento Europeo celebra a lo largo de estos días la semana de la Igualdad de Género bajo el lema ‘La mujer en el mundo digital: seguridad y empoderamiento’ con el objetivo de destacar y buscar soluciones a la creciente cuestión del acoso en línea y la ciberviolencia.

La programación incluye debates que van desde el intercambio de puntos de vista sobre la integración de la perspectiva de género en el presupuesto de la UE al análisis de la representación de las mujeres en el liderazgo político y administrativo.

La eliminación de la violencia contra las mujeres y su empoderamiento en el mundo digital centrará otro de los actos que celebra la Eurocámara esta semana y en el que se espera la participación del expresidente del Gobierno José Luis Rodríguez Zapatero, entre otros.

EL CIBERACOSO EN CIFRAS

A escala europea no existe ninguna encuesta exhaustiva sobre la ciberviolencia en sus diferentes formas. Sin embargo, la Agencia de los Derechos Fundamentales (FRA) publicó una encuesta realizada entre 2012-2014 sobre la violencia en línea contra las mujeres y más concretamente sobre el ciberacoso y el hostigamiento como parte de sus encuestas globales sobre la violencia contra las mujeres en todos los Estados miembros de la UE.

La encuesta reveló que una de cada diez mujeres (11 %) se había enfrentado al menos a una forma de ciberacoso desde los 15 años y una de cada 20 (5 %) en los 12 meses anteriores a la encuesta.

Las formas de ciberacoso contempladas incluían el ciberflashing (envío de imágenes sexuales no solicitadas), pero no la distribución de imágenes íntimas no consentidas.

La encuesta de derechos fundamentales de la FRA de 2019 proporcionó datos sobre el ciberacoso desglosados por género. En ella se constató que el 13% de las mujeres de la UE habían sido objeto de ciberacoso en los últimos 5 años frente al 15% de los hombres.

En el caso del ciberacoso, la tasa más alta se registró en el grupo de edad de 16 a 29 años, ya que el 27% había sufrido ciberacoso en los 5 años anteriores a la encuesta.

ACCIÓN LEGISLATIVA DEL PE

Desde el Parlamento Europeo se ha legislado para hacer frente a la ciberviolencia contra la mujer. La Directiva (UE) 2024/1385 de la UE, relativa a la lucha contra la violencia contra las mujeres y la violencia doméstica tipifica como delito a escala de la UE varios tipos de ciberviolencia sobre la base del artículo 83 del Tratado de Funcionamiento de la Unión Europea (TFUE).

Incluye como delitos el intercambio no consentido de material íntimo o manipulado, el ciberacoso, el ciberhostigamiento, el ciberengaño y la ciberincitación a la violencia o al odio.

A raíz de una enmienda propuesta por el Parlamento, la directiva hace hincapié en que la ciberviolencia afecta especialmente a las políticas, periodistas y defensoras de los derechos humanos.

Además, refuerza los derechos de las víctimas al prever la posibilidad de presentar denuncias en línea por actos de ciberviolencia; las víctimas tendrán acceso a asesoramiento sobre cómo buscar ayuda legal y cómo eliminar contenidos en línea.

Por último, la directiva establece la obligación de revisar la legislación nacional para tener en cuenta los nuevos avances tecnológicos.

CASI EL 70% SUFRE ALGÚN VIOLENCIA POR RRSS

La asociación Columbares, en colaboración con el Grupo de Investigación en Cuidados Avanzados de la Universidad de Murcia (UMU), ha puesto en marcha la investigación ‘Redex’, que revela que el 68,2% de las mujeres de España sufre algún tipo de violencia a través de las redes sociales.

Según la edad, las mujeres entre 25 y 59 años sufren mayores niveles de violencia sexual presencial que las adultas jóvenes (18 a 24 años). Sin embargo, la violencia de género online o a través de medios digitales es similar en ambos grupos de edad.

El estudio pone también de manifiesto que un 42,2% de las mujeres experimenta agresiones directas en forma de amenazas, humillaciones o incluso suplantación de identidad por parte de sus parejas en entornos digitales.