Discursos de odio: nueva herramienta de inteligencia artificial permitirá identificar y enfrentar violencia en la conversación política

Por primera vez en Latinoamérica, esta herramienta de monitoreo digital se pone a disposición de la sociedad para enfrentar los discursos de odio y la violencia basada en género

1 de Diciembre de 2022
Foto: Jasmin Ramírez Romero / PNUD Perú

 

La divergencia de opiniones es saludable para las democracias, ya que renueva la agenda pública y hace visibles las necesidades específicas de diversas poblaciones. No obstante, en los últimos años, el Perú experimenta una creciente polarización política, donde esas diferencias se vuelven barreras para el diálogo y la construcción de consensos, socavando las bases del proceso democrático.

Para detener la polarización antes de que llegue a niveles extremos, es necesario entender cómo este fenómeno se nutre de los discursos de odio y la violencia basada en género. Lamentablemente, la data vinculada a estos procesos en el Perú es escasa y fragmentada. Es por ello que este jueves 01 de diciembre, se presentará eMonitor+, una herramienta tecnológica —creada por el Programa de las Naciones Unidas para el Desarrollo (PNUD) —que usa inteligencia artificial para identificar de manera automática y masiva los discursos de odio y la violencia basada en género en la conversación política digital.

eMonitor+ se diferencia de otras herramientas de escucha social ya que no es un instrumento de identificación de palabras clave, un modelo muy extendido en otros softwares con fines comerciales. Por el contrario, su análisis se basa en cuatro robots entrenados a través de procesos de machine learning, que se han alimentado de más de 35,000 artículos en español, francés, inglés y árabe para poder identificar autónomamente la presencia de discursos de odio y violencia basada en género. Esta tecnología se ha aplicado con éxito en contextos de alta violencia y fragilidad institucional, como Túnez, Libia y Líbano, y ahora estará disponible en Perú, por primera vez en América Latina.

Solo entre la primera y la segunda vuelta de las Elecciones Regionales y Municipales, eMonitor+ ha capturado más de 37 mil publicaciones e identificado más de 1000 discursos de odio promovidos por actores políticos o cuentas asociadas a ellos/as. Asimismo, ha permitido identificar que, en dichas publicaciones, los principales motivos del discurso de odio están asociados a la afiliación ideológica (41%), la ascendencia racial (22%) y la clase socioeconómica (10%). De manera preocupante, ha revelado que los discursos más violentos, aquellos que llaman directamente a la agresión física o al asesinato, siempre están vinculados a temas de género.

 

Más que un gadget, una infraestructura de información

“La tecnología puede jugar un rol importante, pero por sí misma no es suficiente para solucionar las profundas fracturas sociales e institucionales”, señala Bettina Woll, representante del PNUD en el Perú. “En ese sentido, eMonitor+ facilitará la captura y análisis de data en la conversación política digital, pero requiere de personas e instituciones comprometidas con la democracia y la paz sostenible, de modo que usen esa información para promover transformaciones reales en el espacio público digital”, agrega.

Es por ello que eMonitor+ es respaldada por una plataforma, conformada por diversas instituciones, que busca usar la inteligencia provista por esta herramienta para diseñar mejores estrategias (comunicacionales, culturales y políticas) para frenar la polarización en el Perú. Esta alianza está liderada por la Asociación Civil Transparencia, siguiendo su mandato de fomentar el buen gobierno y la institucionalidad democrática, y está respaldada técnicamente por la red de verificación de noticias Ama Llulla, el PNUD, La Mula y Yachay.

No obstante, este es un reto en el que todas las instituciones públicas, privadas y civiles tienen un rol que cumplir. Por esta razón, la data y el análisis de eMonitor+ serán publicados de manera abierta, bajo una licencia de bien público digital. De esta manera, el Perú será el único país en el mundo donde la información de eMonitor+ se publicará de manera abierta permitiendo que otras instituciones con interés académico, periodístico o activista pueden nutrirse de la información generada.

 

Todos los informes de eMonitor+ pueden ser consultados en:

https://www.transparencia.org.pe/publicaciones