Los discursos de odio proliferan en las redes sociales y páginas web desde hace unos años. Usuarios anónimos, conocidos o comunes, vierten todo tipo de comentarios que ensucian el ambiente cordial y el propósito de este tipo de herramientas: crear comunidades que se comuniquen, compartan y convivan. Por ello, la Universidad Internacional de La Rioja (UNIR) lanza la primera plataforma científica que mide la presencia de expresiones de odio en los medios informativos digitales en España, gracias a una investigación financiada por el Ministerio de Ciencia e Innovación.
El objetivo del proyecto Hatemedia es convertirse en una herramienta práctica para que los medios informativos, los profesionales del sector y los agentes públicos y sociales detecten y desarrollen estrategias activas para prevenir la presencia de expresiones de odio en estos contextos gracias a un equipo multidisciplinar de académicos de diferentes universidades que han desarrollado una primera versión del Monitor de Odio, que está previsto evolucione hasta poder identificar, en el entorno de los medios informativos digitales, las expresiones de odio según tipo e intensidad, ya sean generadas por los usuarios de redes sociales como desde portales web.
Monitorizar el odio
La idea parte del interés de varios profesores, encabezados por Elías Said y Julio Montero, para analizar el contexto de desinformación en los medios digitales. Es entonces cuando encuentran el factor común de las expresiones de odio. “Los algoritmos siempre están un paso atrás de la creatividad”, explica Said, “la creatividad hace que el lenguaje cambie constantemente. Nuestro monitor aspira a detectar qué tipo de odio y qué intensidad tiene”, una cuestión muy importante, porque la presencia de odio violatoria de ley es escasa, y el odio a baja intensidad es el que ayuda a generar caldos de cultivo que condicionan la opinión pública.
El Monitor de Odio se presenta como un semáforo que permitirá a medios informativos, periodistas, asociaciones y gobiernos tomar parte antes de que se desate el incendio. “Hay que prestar atención monitorizando, no actuar cuando tenemos el fuego a dos metros, que es imposible de apagar”.
“El problema del odio no es que llegue, es que se disemine”, comenta Said, docente de la Facultad de Educación de UNIR. “El odio existe desde que el hombre es hombre. Pero si vas generando prejuicios y estereotipos de baja intensidad hacia ciertos colectivos, se va polarizando la sociedad y el escenario de opinión pública”. En esta primera fase se ha detectado una mayor presencia de odio ideológico sobre otros tipos de odio, sobre políticos, actores y generadores de contenido.
Para ello, se han analizado más de un millón de noticias y comentarios publicados en los medios informativos digitales españoles, creando una base de datos en castellano de libre acceso que es la más extensa registrada hasta el momento, con 7.200 términos simples y compuestos asociados a expresiones de odio. Es el punto de partida a una herramienta que facilitará el avance posterior de los análisis en el escenario comunicativo digital hispanoparlante.
El algoritmo de Hatemedia alcanza en estos momentos un nivel de precisión del 90%, y está previsto que analice en esos mismos contextos hasta cuatro intensidades de odio, de un nivel latente a otros más acuciantes o explícitos. Para finales de año, se espera recoger una muestra de los tipos de odio presentes en las redes sociales y portales web
El valor de la transferencia
“Se trata de una aportación innovadora”, afirma Julio Montero, codirector del Proyecto junto a Elías Said-Hung. “Hasta ahora los modelos de detección están centrados en identificar si existe o no odio, pero no entran a analizar los tipos de odio específicos contra colectivos vulnerables, ni tampoco la intensidad”.
Desde el Vicerrectorado de Desarrollo e Impacto Económico y Social de UNIR se quiere avanzar en un proyecto de transferencia que posibilite una visión general del problema de las expresiones tendentes al odio, “esto permitirá a los agentes políticos, sociales y culturales abordar estrategias que tengan en cuenta el contexto general y sus tendencias, tanto en tipologías como intensidades”, explica Montero.
El equipo de trabajo está formado por expertos en Lingüística, Ingeniería informática y Ciencias sociales y Comunicación que han elaborado una base de términos o librería de expresiones de odio en castellano diez veces más potente que las existentes hasta el momento, que solo describen el odio de manera uniforme. Esta extensa base de datos es clave en el estudio y la monitorización del entorno digital de los medios informativos, identificando qué mensajes conllevan odio y qué tipología e intensidades son las dominantes en cada contexto. “Esperamos que el proyecto ayude a la lucha contra la proliferación de las expresiones de odio desde los medios informativos digitales”, indica por su parte Said-Hung, que además indica que el conocimiento generado puede servir “para reconocer la latencia de este tipo de expresiones en el sector informativo digital español”.
Cuando el algoritmo reconoce una expresión de odio, determina su intensidad, lo que supone una novedad, discriminando y sectorizando cada categoría. Ahora, los investigadores trabajan para afinar estos dos últimos indicadores tras dos años de trabajo financiado por la línea de Proyectos I+D+I Generación de Conocimiento 2019-2020 del Ministerio de Ciencia e Innovación.