La expansión de la IA está abriendo una nueva forma de violencia facilitada por la tecnología: deepfakes sexualizados no consentidos, campañas de humillación a gran escala y comunidades misóginas que se alimentan de algoritmos para reclutar y normalizar el odio. Aunque se trata de un problema a escala global, los territorios de Asia y el Pacífico son escenario de muchos de estos ataques contra las mujeres y las niñas.
Pero la misma herramienta (la IA) que facilita el daño ofrece una posibilidad sin precedentes de ser parte de la protección, si se usa con enfoque de derechos y perspectiva de género. Las utilidades ya identificadas van desde detectar contenido sintético y rastrear su difusión hasta impedir que se genere en origen mediante filtros y restricciones a nivel de modelo. Incluso se plantean estrategias para “neutralizar” el deepfake cuando intenta producirse, degradándolo o distorsionándolo para que pierda credibilidad y valor como arma de control.
La respuesta, sin embargo, no puede quedarse en lo técnico. El informe que ha publicado recientemente ONU Mujeres, Policy Brief: Harnessing Artificial Intelligence to Address Technology-Facilitated Gender-Based Violence in Asia and the Pacific, subraya la necesidad de construir infraestructuras de apoyo a víctimas, herramientas para documentar pruebas, evaluar riesgos, orientar pasos legales y psicológicos, y acelerar la retirada de contenidos con sistemas de takedown más rápidos y coordinados, también a escala transfronteriza. Experiencias como Australia, con su sistema eSafety, o Corea del Sur, con centros específicos de respuesta a delitos sexuales digitales, muestran que cuando hay voluntad política, recursos y coordinación, es posible reducir el tiempo de exposición, proteger a las supervivientes y perseguir a los agresores.
La cuestión es: ¿qué IA queremos y quién la diseña? La agenda que se propone para Asia-Pacífico pasa por auditorías de género, reducción de sesgos y datos inclusivos en las políticas nacionales de IA, al tiempo que se refuerza la alfabetización digital y la prevención de la radicalización misógina promoviendo masculinidades igualitarias. El reto al que nos enfrentamos es el garante y salvaguarda de los derechos de las niñas y las mujeres, el aumento de la rendición de cuentas y la situación de la vida y la libertad de las mujeres en el centro.
👀 Visitas: 43
