Elias Said-Hung/ Julio Montero-Díaz
Con este décimo capítulo termina la serie que UNIR Revista ha venido publicando sobre el problema del odio y la desinformación en las redes y la necesidad de buscar mecanismos que ayuden a la moderación para salvaguardar la cultura democrática de nuestras sociedades.
En una era donde más de la mitad de los jóvenes mayores de 14 años se informan principalmente a través de redes sociales, el proyecto Hatemedia de la Universidad Internacional de La Rioja ha arrojado luz sobre uno de los desafíos más apremiantes de nuestro tiempo: la proliferación del discurso de odio en los medios digitales.
En junio de 2025, el proyecto Hatemedia echa su cierre formal pero no se detiene, sino que se transforma en un Observatorio Digital de Odio, donde se pondrá a disposición de todas las personas interesadas en la temática, tanto los resultados generados en este proyecto como de otros que la base del equipo a cargo ha venido proponiendo y ejecutando hasta la fecha (ej. Proyecto HatemediaReligion, financiado por F. Pruralismo y Convivencia) y en el futuro (otros proyectos ya presentados y que esperamos tengan buena acogida para poderlos ejecutar).
Enlace ficha
Tras cuatro años de investigación exhaustiva, y más de 19 millones de datos recabados y más de 9 millones de datos analizados de X, FB y web, los resultados del proyecto Hatemedia revelan una realidad preocupante: 5 de cada 10 mensajes publicados por lectores en las secciones de comentarios de los medios informativos digitales españoles contienen algún tipo de odio, cifra que se eleva a 6 de cada 10 en plataformas como X (anteriormente Twitter) y Facebook. Más alarmante aún, el 63% de los mensajes de odio están dirigidos específicamente a colectivos vulnerables como mujeres, inmigrantes y la comunidad LGTBI+.
La respuesta tecnológica del proyecto Hatemedia se materializa en el Monitor de Odio, una herramienta innovadora, centrada en la detección del odio en español promovido alrededor de los medios informativos y escenarios digitales actuales en España. Una herramienta que identifica no solo la presencia de discurso de odio, sino que también clasifica su tipología (político, misógino, sexual, xenófobo y general) e intensidad, desde mensajes incívicos hasta amenazas explícitas. Y que está en constante evolución para incluir nuevos tipos de odio (ej. religioso, a través de los datos recabados en proyectos como HatemediaReligion), y para garantizar el mantenimiento del anonimato de los datos mostrados y la adecuación de los algoritmos a la regulación europea basados en IA.
El perfil de los odiadores: coordinación detrás del caos aparente
El análisis de más de 400.000 mensajes publicados por 1.000 usuarios identificados como diseminadores de odio ha demostrado que este fenómeno está lejos de ser espontáneo. Contrario a lo que podría suponerse, estas cuentas no son de reciente creación, lo que descarta la hipótesis de que se trate exclusivamente de bots creados para campañas específicas. En su lugar, presentan características propias de estrategias organizadas como el Astroturfing, con un bajo número de seguidores, pero una actividad significativamente superior a la media.
Una de las revelaciones más significativas del proyecto es que el odio no es espontáneo sino coordinado. Los usuarios que diseminan discursos de odio se agrupan en clústeres o comunidades interconectadas, unidas por un pequeño grupo de usuarios que representa apenas el 5% del total analizado, pero que actúa como nodos centrales dentro de la red. Estos usuarios adoptan posturas narrativas más extremas y generan mensajes con un alto grado de polarización que son amplificados por el resto de las cuentas que orbitan a su alrededor.
Los odiadores presentan patrones que parecen compartir, para intentar camuflarse dentro del ecosistema digital mientras amplifican narrativas polarizadoras:
- Uso de lenguaje sencillo y directo diseñado para maximizar su impacto.
- Publicación en días y franjas horarias similares para optimizar el alcance.
- Ausencia generalizada de su ubicación o utilización de localizaciones ficticias.
La intersección peligrosa: odio y desinformación
Desinformación y odio son en la práctica indisociables, dos caras de la misma moneda que se presentan juntas con el objetivo común de atacar colectivos sociales vulnerables. Esta intersección es particularmente peligrosa porque impulsa la polarización, debilita la cultura democrática y erosiona la confianza en las instituciones públicas.
Los datos de Hatemedia muestran una gran interseccionalidad entre ambos fenómenos:
- Ambos fomentan la polarización de la opinión pública al priorizar emociones negativas y promocionar narrativas simplificadas.
- Comparten estrategias de diseminación comunes entre sí.
- Ambas se ven favorecidas por los sesgos algorítmicos presentes en las redes sociales, los cuales favorecen las emociones negativas sobre las positivas.
- Ambas son dinamizadas por perfiles de usuarios que suelen compartir rasgos comunes, bajo una aparente aleatoriedad de los flujos comunicativos compartidos por estos.
Por tanto, resulta necesario seguir avanzando en nuevos estudios que ayuden a la interseccionalidad entre el odio y la desinformación y la complejidad de un fenómeno global y complejo, integrado por ambos elementos cada vez más recurrentes en los escenarios digitales actuales, los cuales favorecen la pérdida de valores y cultura democrática, la convivencia y la tolerancia en nuestras sociedades, desde la promoción recurrente de prejuicios y estereotipos que buscan posicionar narrativas de ideología extrema en la opinión pública.
En el escenario descrito, los propios medios informativos, periodistas y las mujeres políticas son con frecuencia el blanco de los discursos de odio en las redes sociales. El análisis de 37.249 mensajes recolectados durante enero de 2021 reveló que casi la mitad de los comentarios (49,12%) utilizan expresiones despreciativas dirigidas específicamente a mujeres políticas, enfocándose en descalificaciones y ofensas personales.
Los comentarios ofensivos hacia mujeres políticas suelen provenir de cuentas asociadas mayoritariamente a perfiles públicos identificados como hombres, que destacan por tener un mayor número de seguidores y mantener una actividad diaria más elevada. Por el contrario, las cuentas que combaten estos discursos —frecuentemente vinculadas con mujeres— generan una mayor interacción positiva con sus mensajes, mostrando la importancia de las contranarrativas en la lucha contra el odio.
La educación como escudo: un compromiso colectivo
Reconociendo que la tecnología por sí sola no es suficiente, desde Hatemedia se enfatiza la importancia crucial de la formación como recurso para combatir el odio en las instituciones educativas.
Por eso, no solo se ha venido procurando seguir generando contenidos académicos, sino también tres informes que esperamos ayuden a educadores, periodistas y medios, a avanzar en la lucha contra la presencia del odio en las redes sociales y desde los propios contenidos compartidos en este tipo de escenarios:
- ¨Radiografía del discurso de odio en redes sociales¨, dirigido a educadores, en el que se muestran los resultados observados en 2021 y 2022, y se establecen recomendaciones para que docentes puedan promover sobre cómo se presenta y dar respuestas contra las expresiones de odio entre su alumnado a cargo.
- ¨Periodismo frente al #Odio Digital¨, dirigido a periodistas, en el que se establecen recomendaciones para que estos profesionales puedan actuar contra este tipo de mensajes.
- ¨El odio que permanece¨, dirigido a periodistas y medios informativos, en el que se muestra el porcentaje de odio detectado y eliminado en plataformas sociales como X, y los problemas y acciones requeridas para la mejora de las políticas de moderación destinadas a controlar este tipo de expresiones.
La formación dirigida a los jóvenes debe abarcar, desde la alfabetización mediática para identificar noticias falsas y evaluar críticamente las fuentes, pensamiento crítico para analizar información y detectar sesgos, empatía y autoeficacia para intervenir efectivamente contra el odio, hasta la promoción de competencia social que ayuden a promover la diversidad y el respeto.
Pero también se necesitan profesionales y medios que sean capaces de promover y llevar a cabo políticas de moderación claras y efectivas contra este tipo de expresiones, además de ser capaces de detectar las expresiones de odio que no sean solo amenazantes o insultantes, sino de baja intensidad (incívicas o malintencionadas).
El proyecto Hatemedia no representa un final sino un comienzo. Los desafíos identificados requieren un compromiso colectivo que trasciende las fronteras académicas y tecnológicas. La hoja de ruta incluye la ampliación de redes universitarias e institucionales, el desarrollo de nuevas propuestas de investigación nacionales y europeas, y la promoción de acciones formativas para difundir el conocimiento generado.
La construcción de una cultura digital basada en el respeto y la inclusión requiere de esfuerzo colectivo, regulaciones adecuadas y educación sobre el impacto del lenguaje en la sociedad. Más que un marco regulatorio que limite la libertad de expresión, se requieren actuaciones que fomenten enfoques racionales para localizar y contraponer las acciones claramente desinformativas o que fomenten el odio.
Reflexión final: la falsa moneda del odio
Como metáfora final, hay que tener en cuenta que los contenidos desinformativos y expresiones de odio son las dos caras de la misma moneda, y es una moneda muy peligrosa, porque el dinero falso provoca la desaparición del verdadero. Es preciso avanzar desde múltiples frentes —académico, social, mediático y educativo— para construir una nueva cultura que se enfrente a estas limitaciones con racionalidad y, probablemente, con sentido del humor.
El legado del proyecto Hatemedia trasciende sus hallazgos científicos: ha establecido las bases para una comprensión más profunda de los mecanismos del odio digital y ha proporcionado herramientas concretas para combatirlo. En un mundo donde la línea entre lo virtual y lo real se difumina cada día más, este trabajo representa un faro de esperanza para la construcción de espacios digitales más seguros, inclusivos y democráticos.
La batalla contra el odio en las redes sociales apenas comienza, pero gracias a proyectos como Hatemedia y otros que estamos haciendo (ej. HatemediaReligion) y proponiendo en diferentes convocatorias competititivas, ahora tenemos las armas del conocimiento, la tecnología y la educación para librarla con mayor efectividad. El futuro de nuestra convivencia digital depende de cómo utilicemos estas herramientas y de que logremos colaborar un mayor número de agentes sociales para ello.
Cada uno de los artículos que han integrado la serie de temas abordados alrededor de Hatemedia, motivo de este último trabajo, se ha hecho con un interés en reflexionar y situar a la sociedad sobre la problemática del odio que está presente en el escenario comunicativo digital actual, cada vez más dominado por las redes sociales, las emociones, los sesgos algorítmicos, la homofílica de los usuarios que participan en este tipo de contextos, y una creciente necesidad de buscar mecanismos que ayuden a la moderación de este tipo de mensajes, que tanto impacto negativo están generando en la cultura democrática de nuestras sociedades. Una serie que somos conscientes que no es un punto final, sino que requerirá de nuevos aportes en el futuro, donde se asuman otros enfoques que complementen los conceptos abordados aquí, desde una aproximación más práctica de casos, por ejemplo.
(*) Elías Said-Hung es codirector del proyecto Hatemedia. Catedrático de Ciencias Sociales y doctor en Ciencias de la Información. Preside la Asociación Ciencia, Tecnología y Sociedad (CITESOC) y es docente en la Facultad de Educación de UNIR, aunque su verdadera pasión es la investigación, que satisface como miembro del Grupo de Investigación Inclusión Socioeducativa e Intercultural, Sociedad y Medios (SIMI) de la universidad. También es director de la Revista Española de Pedagogía de UNIR, autor de multitud de trabajos y estudios publicados en revistas científicas y editor de una veintena de libros académicos.
(*) Julio Montero, exvicerrector y catedrático de la Universidad Internacional de La Rioja desde octubre de 2014 y excedente como catedrático de Historia de la Comunicación Social (desde 2007) en la Universidad Complutense de Madrid. Autor de numerosos libros, es codirector junto a Elías Said-Hung de Hatemedia, un proyecto disruptivo en el panorama de la información en España, que cuenta con la financiación del Ministerio de Ciencia, Innovación y Universidades, formado por un equipo multidisciplinar compuesto por expertos en lingüística, ingeniería informática, ciencias sociales y comunicación, que han creado una base de datos con más de 7.200 términos asociados a expresiones de odio en español.
Glosario de términos:
- HatemediaReligion: Proyecto financiado por Pluralismo y Convivencia, que tiene como objetivo crear una cartografía del odio religioso en medios digitales españoles en X. Se analizan seis medios de diferentes perfiles
ideológicos para identificar similitudes en los discursos de odio, establecer términos y temas claves, y determinar estrategias de diseminación.
- Sesgo algorítmico: término que describe los errores sistemáticos y repetibles en los algoritmos de aprendizaje automático (machine learning) que pueden producir resultados injustos o discriminatorios. Estos errores suelen reflejar los sesgos humanos que se encuentran en los datos de entrenamiento, en el diseño del algoritmo o en la forma en que se aplica.
- Homofilia: Se refiere a la tendencia que tienen las personas en las redes sociales de relacionarse más con otros usuarios con características ideológicas y sociales similares. Lo que favorece el reforzamiento de prejuicios y estereotipos existentes.
Los capítulos anteriores de la serie:
- Cómo detectar y prevenir el odio en los medios de comunicación digitales a través de Hatemedia.
- El abecé de la desinformación y el odio: claves para entender y combatir las amenazas digitales.
- Las mujeres que ocupan cargos políticos, principales destinatarias del odio en las redes sociales.
- Odiadores en las redes: cómo operan, se organizan y afectan a la opinión pública.
- Algoritmos y técnicas de IA para la detección y clasificación del odio en las redes sociales y los medios.
- Un monitor para prevenir el odio en las redes sociales y los medios de comunicación.
- El reto de detectar odio desde el Monitor a través de la IA generativa.
- Redes sociales y medios: la intersección del odio y la desinformación.
- La formación como recurso clave para combatir el odio en las instituciones educativas.
Consulta aquí la última entrevista a Elías Said-Hung publicada en UNIR Revista.
- Escuela Superior de Ingeniería y Tecnología
- Facultad de Economía y Empresa
- Facultad de Educación
