Enfrentar la violencia digital con perspectiva de género: hacia una gobernanza responsable de los datos

Cuando se viralizan videos o imágenes violentas, muchas veces las personas usuarias, no sólo las sobrevivientes, exigen respuestas inmediatas, pero las políticas de las plataformas no parecen ser suficientes. Desde tu punto de vista, ¿qué pueden hacer las empresas tecnológicas para luchar contra la violencia digital contra las mujeres y diversidades?

La moderación de contenido es una tarea compleja. i bien se avanzó muchísimo con herramientas de IA para detección automática, todavía se requiere de mucho trabajo manual tanto para entrenarlas como para supervisarlas.

En este contexto, las empresas deben definir políticas claras sobre violencia de género en general y digital en particular, y tomar medidas tanto preventivas como reactivas.

Entre las preventivas se encuentran la utilización o entrenamiento de algoritmos automáticos o semiautomáticos de detección de posts violentos; la detección temprana y bloqueo de cuentas violentas, coordinadas o falsas, con sanciones efectivas; configuraciones de privacidad para que las personas usuarias puedan filtrar contenido o bloquear a otras; otorgar a las personas usuarias control y transparencia sobre su huella digital, permitiéndole borrar datos si así lo quisiera o, por el contrario, guardar de forma segura evidencia para usar en contextos legales; y un diseño de producto simple que permita una denuncia rápida y priorizada de contenido propio o de terceras.

De base está un diseño con perspectiva de género donde se creen equipos diversos e incorporen especialistas en violencia digital para asegurar que los flujos respondan de manera efectiva a los diferentes tipos de violencia.

¿Qué acciones concretas pueden implementarse, una vez ocurrido un hecho de violencia digital, para mitigar sus efectos y brindar una respuesta efectiva a las personas afectadas?

Una vez ocurrida la violencia, las empresas deben asegurar una respuesta priorizada, humana y rápida y hacer seguimiento transparente del caso, incluyendo acciones tomadas. También pueden brindar soporte personalizado e idealmente hasta trabajar con organizaciones locales para hacer derivaciones.

Por último, deben mantener transparencia y reportar de manera periódica estadísticas sobre la cantidad y el tipo de denuncias, tasas de resolución y auditorías por terceros independientes que permitan controlar sesgos.

¿Qué políticas públicas hacen falta en Argentina y la región para una gestión más eficaz y transparente de denuncias?

El Estado tiene un rol clave estableciendo el marco legal y regulatorio, tipificando los diferentes tipos de violencia de género y estableciendo protocolos de actuación, sanciones y obligación de reportar datos estandarizados sobre violencia en entidades públicas y privadas. Desde el 2023, con la Ley Olimpia (27.736), la violencia digital es oficialmente considerada en Argentina una modalidad de violencia en el marco de la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres. La Ley Olimpia incluye no solo ataques digitales directos sino también la difusión de contenido sin consentimiento, la reproducción de contenido misógino y la difusión de datos personales entre otros.

Es igual de importante la actualización permanente respecto de nuevas formas de violencia, por ejemplo, los deepfakes. En Argentina, el proyecto de Ley Belén¹ busca tipificar y sancionar la difusión no consentida de material íntimo. Asimismo, el Estado debe promover programas educativos desde edad temprana, capacitación a jueces y juezas, fuerzas de seguridad, entre otros.

El Estado no solo debe asignar presupuesto específico y adecuado, sino además establecer mecanismos efectivos de denuncia y seguimiento de casos con personas operadoras capacitadas para contener, asesorar y eventualmente derivar, integrado con organismos policiales y de salud.

¿Qué barreras técnicas existen para el establecimiento de estos marcos legales?

Por un lado, existen barreras de jurisdicción en cuanto a datos digitales alojados en servidores extranjeros que impiden hacer cumplir ciertas leyes locales. Por el otro, al tratarse de datos privados y sensibles, se debe asegurar que al compartirlos con autoridades no se vulneran derechos de privacidad, lo cual puede ser complejo y generar demoras. Por último, la propia dificultad de definir de manera inequívoca qué constituye violencia digital y qué no en casos límite es también una barrera. Esto sin contar que el tratamiento de datos y la moderación de violencia es costosa para las empresas y en general no está alineada a sus objetivos económicos o de engagement con la plataforma.

Sería valioso avanzar hacia protocolos regionales de cooperación entre países para compartir información de manera segura y rápida, e incluso facilitar la acción penal correspondiente.

La violencia simbólica muchas veces se minimiza porque no se la considera equiparable a la violencia física, ¿cómo explicarías su importancia y los efectos de la violencia en entornos digitales en la vida de las mujeres y diversidades?

La violencia simbólica no es una forma menor o abstracta de agresión: es la base sobre la cual se desarrollan las demás violencias. Es la utilización de un discurso estereotipante, desvalorizador o discriminatorio hacia las mujeres y diversidades que influye en cómo la sociedad percibe su rol y su valor, normalizando y perpetuando la desigualdad de género en todos los ámbitos, incluido el digital.

En los entornos digitales se manifiesta por ejemplo en comentarios denigrantes, memes que deshumanizan o sexualizan a mujeres, o narrativas que ridiculizan su voz, especialmente cuando se trata de figuras públicas.

El impacto es muy concreto: no sólo genera daño psicológico, reputacional y económico, sino que además limita la libertad de expresión, provoca autocensura y empuja a las mujeres a correrse de la esfera pública. La consecuencia última de esta normalización de discursos de odio es la legitimación de otras formas de violencia, incluida -en particular- la violencia física.

Violencia simbólica es también considerar algunas violencias "dignas" de atención mientras otras se invisibilizan. Los organismos que lideran la agenda de género deben mantener una mirada universal sobre los derechos de las mujeres y diversidades, sin importar el contexto político, el origen o la identidad de la víctima o del agresor.

¿De qué manera la producción y apertura de datos puede fortalecer la comprensión y el abordaje de la violencia digital de género?

Es importante contar con datos que permitan medir el volumen de denuncias, el volumen de contenido violento y su alcance, tipificar y cuantificar agresores, estadísticas sobre seguimiento, tiempo y resolución de denuncias. Con autorización explícita de las personas involucradas, los datos deberían estar desagregados por género, por edad, orientación sexual y ubicación geográfica.

Es clave la acción conjunta entre las empresas tecnológicas, el Estado y el tercer sector para acordar desde la definición y tipificación de tipos de violencia hasta estándares de reporte de datos y protocolos de prevención y respuesta.

Es el Estado quien debe exigir su publicación, auditar el cumplimiento de las leyes de protección de datos y complementar con datos públicos nacionales sobre denuncias. El tercer sector podrá también aportar estudios independientes, acompañamiento y auditorías externas. Sin datos comparables y públicos, la violencia digital permanece invisible.

En un contexto donde la inteligencia artificial se vuelve cada vez más accesible, ¿qué desafíos nuevos se plantean para la prevención y regulación de la violencia digital?

El debate se sigue ampliando. Tenemos la Ley Olimpia (Ley 27.736), pero queda pendiente la Ley Belén, especialmente relevante en la era de la IA donde la alteración de imágenes, audio y video está al alcance del público general.

Por otro lado, estudios recientes como Hackeá la violencia digital (Amnistía Internacional, ONU Mujeres y UNFPA, 2025) muestran que la violencia digital sigue siendo un problema muy relevante en Argentina, y que resulta clave una mirada interseccional: las violencias digitales se agravan en función de la edad, la orientación sexual, la identidad de género o el nivel socioeconómico.

Por último, a nivel internacional se sigue avanzando en la discusión sobre el acceso abierto a datos. El Reglamento (UE) 2022/2065 o Ley de Servicios Digitales empujó a las plataformas digitales a publicar "reportes de transparencia" donde comparten datos más detallados sobre la moderación de contenido, incluyendo abuso, explotación sexual infantil, desinformación y otros. Sin embargo, los datos aún no se publican desagregados por tipo de violencia ni por género.

En resumen, la violencia digital de género es un problema cada vez más visible y preocupante en Argentina, y si bien se están dando pasos importantes hacia la transparencia y rendición de cuentas, aún queda un largo camino por recorrer.

¹ El proyecto de Ley Belén en Argentina busca tipificar y sancionar la difusión no consentida de material íntimo. Este proyecto está inspirado en el caso de Belén San Román, que fue inducida al suicidio luego de sufrir la extorsión y posterior viralización de un contenido íntimo.