Julio Montero Díaz/ Elías Said-Hung/ Sergio Arce-García
Cada vez es más difícil distinguir lo veraz de lo falso en las redes y controlar la difusión de la hostilidad que conduce a la violencia, tanto verbal como física. Es preciso avanzar desde múltiples frentes (académico, social y educativo) para superarlo y construir una nueva cultura.
La combinación del odio con la desinformación en el escenario digital es enormemente peligrosa: impulsa la polarización, debilita la cultura democrática y tiene a hacer ineficaces las instituciones públicas, que quedan c omo un cascarón vacío.
Desinformación y expresiones de odio son en la práctica indisociables, dos caras de la misma moneda que difícilmente pueden disociarse.
En teoría son dos conceptos claramente distinguibles, en la vida social real se presentan juntos con muchísima frecuencia y con el mismo objetivo: atacar colectivos sociales vulnerables. Unos y otros sitúan como predominantes unas narrativas que legitiman prejuicios y estereotipos en la opinión pública y convierten en tolerables posiciones excluyentes.
Fakes news, ¿contenidos desinformativos y desinformación?
Fake news o bulos, desinformación y contenidos desinformativos no son lo mismo, aunque se utilicen indiscriminadamente. Las fake news implican el uso intencional de contenido falso para manipular la opinión pública, sobre una cuestión o colectivo social.
Los contenidos desinformativos, aunque pretendan manipular, no necesariamente se basan en falsedades. Más bien son contenidos sacados de contexto que dan una idea diferente y favorable a la finalidad que se pretende. En la desinformación falta la intencionalidad perversa: no se requiere deseo e intención de falsear una realidad o favorecer una causa propia: se puede desinformar sin querer o sin interés concreto.
Los datos de Hatemedia muestran una gran interseccionalidad entre la desinformación y el odio.
Las expresiones de odio
Este concepto tiene dos líneas de significados. El primero es de carácter legal. En España las define el artículo 510 del Código Penal, como aquellos mensajes que fomentan, promocionan o incitan, ya sea directa o indirectamente, al odio, hostilidad, discriminación o violencia contra personas o grupos por motivos como raza, ideología, religión, orientación sexual, género, discapacidad, entre otros.
El segundo enfoque es el de los estudios académicos. En esta línea pueden entenderse como aquellos mensajes que incluyen términos hostiles, incívicos, groseros y negativos, divulgados públicamente contra miembros de grupos socialmente vulnerables (por ejemplo, mujeres, inmigrantes, la comunidad LGTBI+ u otros). Su objetivo es humillar, discriminar o amenazar a esas personas no por sus actos sino por formar parte de un grupo caracterizado por su género, raza, etnia, ideología u otras características compartidas.
Estas dos formas de entender el las expresiones de odio son correctas. Se diferencian fundamentalmente por la intensidad de su nivel de odio. El legal suele estar asociado a expresiones de odio amenazantes (velada o no) hacia personas o colectivos sociales vulnerables, por motivos raciales, religiosos, orientación social o ideológica, por ejemplo. El segundo, asume que el odio tiene asociado diferentes niveles o tipos de intensidades, que van de los niveles más bajos (incivilidad o malintencionados), pasando a los insultos hasta alcanzar la amenazas. Por tanto, estamos ante un fenómeno donde no necesariamente se debe llegar a la amenaza para ser considerado expresión de odio.
El proyecto Hatemedia ha mostrado que las expresiones de odio con mayor intensidad están relacionadas con los comentarios de los lectores sobre las noticias que se comparten en las redes sociales y portales web. Las expresiones de odio más frecuentes tuvieron una baja intensidad.
Los datos de Hatemedia muestran precisamente una gran interseccionalidad entre la desinformación y el odio: ambas fomentan la polarización de la opinión pública al priorizar emociones negativas y promocionar narrativas simplificadas. Las estrategias que más se emplean para obtener el máximo provecho de esta confluencia negativa son los sesgos propios de los algoritmos y la instrumentalización de estereotipos.
- Amplía y consulta aquí el gráfico sobre la hostilidad promovida por los usuarios de los medios informativos en España.
Esta intersección entre desinformación y odio en las redes sociales tiene consecuencias graves: polarización social, desconfianza en las instituciones e incitación a posiciones ideológicas extremas, entre otras. Su influencia es grande porque estos escenarios se han convertido en el espacio dominante en la oferta y consumo de información en nuestras sociedades. Más aún entre los jóvenes. Estos suelen consumir contenidos de las redes sin contrastar. Algo muy peligroso si no se cuenta con las competencias necesarias para detectar y mitigar la influencia de estos contenidos, promovidos (muchas veces) bajo una aparente espontaneidad.
Combatir la desinformación y el odio, es un problema complejo. Exige soluciones igualmente complejas. Implica la promoción de planes nacionales de educación mediática: solo así los ciudadanos serán capaces de entender las dinámicas propias de lo digital y compartir un glosario de términos que ayude a cuestionar las informaciones y las estrategias de divulgación que se utilizan.
Igualmente han de establecerse nuevos perfiles profesionales en los medios, que ayuden a periodistas y moderadores de usuarios a identificar y abordar rápidamente contenido potencialmente desinformativo y odiador en las redes sociales.
Otro tipo de medidas podrían encaminarse a promover el uso de herramientas como el Monitor de Odio que hemos creado. Ayuda eficazmente a detectar y hacer un seguimiento permanente de mensajes con expresiones de odio, y facilita el diseño de estrategias de defensa y ataque (TTP, en sus siglas en inglés), como el marco DISARM, basado en el modelo Kill Chain.
Estas medidas son solo algunas de las prioritarias. Más que un marco regulatorio que limite la libertad de expresión se requieren actuaciones que fomenten enfoques y perspectivas racionales que faciliten la localización y contraposición a los contenidos claramente desinformativos o que fomenten y difundan el odio.
En esa línea han de ofrecese igualmente alternativas al uso de las ventajas que ofrecen los escenarios digitales para ocultar acciones y campañas coordinadas que fomentan la ¨duda plausible¨ y la ¨pérdida de confianza¨ para entender lo que pasa a nuestro alrededor y apuntar contra colectivos sociales vulnerables como potenciales ¨culpables¨ de los problemas que nos rodean.
La paradoja es que, teóricamente, estamos en un tiempo en que las posibilidades de acceder y consumir todo tipo de contenidos informativos afectan a todos en los escenarios digitales. Sin embargo, cada vez es más difícil distinguir lo veraz de lo falso y controlar la difusión de la hostilidad que conduce muchas veces a la violencia, tanto verbal como física. Más aún: la espontaneidad de estas manifestaciones o su estudiada provocación.
Como ya hemos dicho, los contenidos desinformativos y las expresiones de odio son las dos caras de la misma moneda. Y es una moneda muy peligrosa, porque el dinero falso provoca la desaparición del verdadero. Es preciso, por tanto, avanzar desde múltiples frentes (académico, social, en los medios y educativo) para construir una nueva cultura que se enfrente a estas dos limitaciones con racionalidad y, probablemente, con sentido del humor.
Glosario de términos:
- Contenido desinformativo: Información no necesariamente falsa, que se presenta fuera de contexto o de manera manipulada para inducir a error o favorecer una narrativa concreta.
- Desinformación: Difusión, no necesariamente intencional, de información falsa que perjudica a personas, grupos o instituciones.
- Fake news (noticias falsas): Contenido seudoperiodístico o informativo que presenta hechos falsos como si fueran reales, con la intención de engañar, manipular opiniones o desprestigiar a personas o instituciones.
- Expresiones de odio: Mensajes, orales, escritos o gestuales que fomentan, incitan o promueven el odio, la hostilidad, la discriminación o la violencia contra personas o grupos por motivos como raza, religión, género, orientación sexual, discapacidad, entre otros. Pueden variar en intensidad, desde la incivilidad hasta las amenazas explícitas.
- TTP-Disarm: Marco de análisis que describe las tácticas, técnicas y procedimientos empleados en campañas de desinformación y odio. Permiten identificar patrones y perfiles de emisores para anticipar y contrarrestar sus acciones.
- Modelo Kill Chain: marco originalmente desarrollado en el ámbito militar y de la ciberseguridad que desglosa un ataque en fases estructuradas (desde la planificación inicial hasta la ejecución final) para entender, detectar y bloquear amenazas en cada etapa del proceso.
(*) Julio Montero, exvicerrector y catedrático de la Universidad Internacional de La Rioja desde octubre de 2014 y excedente como catedrático de Historia de la Comunicación Social (desde 2007) en la Universidad Complutense de Madrid. Autor de numerosos libros, es codirector junto a Elías Said-Hung de Hatemedia, un proyecto disruptivo en el panorama de la información en España, que cuenta con la financiación del Ministerio de Ciencia, Innovación y Universidades, formado por un equipo multidisciplinar compuesto por expertos en lingüística, ingeniería informática, ciencias sociales y comunicación, que han creado una base de datos con más de 7.200 términos asociados a expresiones de odio en español.
(*) Elías Said-Hung es codirector del proyecto Hatemedia. Catedrático de Ciencias Sociales y doctor en Ciencias de la Información. Preside la Asociación Ciencia, Tecnología y Sociedad (CITESOC) y es docente en la Facultad de Educación de UNIR, aunque su verdadera pasión es la investigación, que satisface como miembro del Grupo de Investigación Inclusión Socioeducativa e Intercultural, Sociedad y Medios (SIMI) de la universidad. También es director de la Revista Española de Pedagogía de UNIR, autor de multitud de trabajos y estudios publicados en revistas científicas y editor de una veintena de libros académicos.
(*) Sergio Arce-García es colaborador de Hatemedia. Profesor de UNIR. Doctor en Humanidades y Comunicación con premio extraordinario con un Máster en Sistemas Integrados, técnico en prevención de riesgos laborales y licenciado en Ciencias Químicas. Pertenece al equipo investigador del grupo de investigación Comunicación y Sociedad Digital (COYSODI) en UNIR desde el 2020. Su principal línea de investigación se desarrolla sobre las redes sociales y medios de comunicación con métodos de análisis masivo y ‘machine learning’. Ha publicado decenas de artículos científicos de alto impacto indexados en WoS o Scopus, así como capítulos de libros.
Los capítulos anteriores de la serie:
- Cómo detectar y prevenir el odio en los medios de comunicación digitales a través de Hatemedia.
- El abecé de la desinformación y el odio: claves para entender y combatir las amenazas digitales.
- Las mujeres que ocupan cargos políticos, principales destinatarias del odio en las redes sociales.
- Odiadores en las redes: cómo operan, se organizan y afectan a la opinión pública.
- Algoritmos y técnicas de IA para la detección y clasificación del odio en las redes sociales y los medios.
- Un monitor para prevenir el odio en las redes sociales y los medios de comunicación.
- El reto de detectar odio desde el Monitor a través de la IA generativa.
Consulta aquí la última entrevista a Elías Said-Hung publicada en UNIR Revista.
- Escuela Superior de Ingeniería y Tecnología
- Facultad de Economía y Empresa
- Facultad de Educación
