Sara Puerto
Investigadores académicos europeos y españoles analizaron la infraestructura técnica y económica tras la difusión interesada de los mensajes de odio a través de las plataformas.
La difusión masiva del odio digital no es un fenómeno espontáneo, sino el resultado de una lucrativa infraestructura técnica y económica. Es una de las conclusiones del seminario organizado por la Universidad Internacional de La Rioja (UNIR) sobre el proyecto Hatemedia, codirigido por Elías Said Hung y Julio Montero Díaz y financiado por el Ministerio de Ciencia.
El debate, con investigadores europeos y españoles, evidenció que las redes premian la violencia por su alta rentabilidad en la “economía de la atención”, por lo que los expertos urgen a dotar a los ciudadanos de una alfabetización crítica para desactivar esta manipulación.
El negocio del odio en la red
El codirector de Hatemedia, Elías Said, expuso que el 80% de los mensajes de odio son “de baja intensidad”, aquellos que generan estereotipos de forma masiva. “Este es el odio que verdaderamente cala”, aseguró, alertando que: “Por 21$ puedes contratar 1.000 cuentas verificadas y montar tu infraestructura de influencia”.
Los investigadores de UNIR Pavel Sidorenko, moderador del debate, y Elías Said, codirector del proyecto Hatemedia.
Por su parte, Julio Montero aportó una matización sobre los límites de la regulación estatal, el uso político de la victimización y la complejidad cultural a la que nos enfrentamos: “Una cosa es el odio y otra son los discursos del odio. Hay discursos que no son malos y discursos de odio que no siempre son penalizables, en el sentido de que yo no soy dueño de qué nivel de sensibilidad tiene la persona con la que estoy hablando”.
Valerio Basile (Università di Torino) argumentó que la soberanía digital pasa por comprender el funcionamiento de estas herramientas: “Gran parte del contenido está creado por modelos automáticos de inteligencia artificial. ¿Cuáles son los intereses de quién lo ha creado? ¿Quién hace negocio con estos modelos? No está bajo control de los usuarios. La soberanía digital es un tema técnico, pero sobre todo político y de responsabilidad“.
En esta línea, Pedro Jerónimo (Universidade de Beira Interior) apeló a la responsabilidad colectiva en la viralidad: “Si alguien comparte un discurso de odio, tiene que ser consciente de que lo está amplificando. Esto provoca una pérdida de confianza, no solo en las redes, sino hacia las propias instituciones”.
Por su parte, Pablo Picazo (Universidad de Halmstad) señaló “la correlación directa entre el mensaje de odio y el acceso al poder político de los partidos de la oposición. Si resulta que las formaciones que más odio difunden son las que ganan, ¿cómo influye eso en la población?”. Es necesario “invertir mucho dinero en investigación y en educación”, concluyó.
Finalmente, Max Römer (Universidad Camilo José Cela) explicó cómo la investigación cualitativa corrobora estos datos: “Estas plataformas se están convirtiendo en verdaderos entramados semióticos diseñados específicamente para odiar”. Ante la “normalización del odio”, defendió “volver a situar al ciudadano en el centro“.
Responsabilidad legal y estructura digital
Virginia Martín (Universidad de Valladolid) reclamó un marco de corresponsabilidad que penalice tanto al emisor como a los intermediarios tecnológicos: “No es posible que Meta y las grandes industrias dañen la salud mental de nuestros jóvenes sin que haya consecuencias. Tiene que haberlas por ambas partes para que no haya carta blanca”.
Virginia Martín, Pedro Jerónimo, Pavel Sidorenko, Loreto Corredoira, Jacobo Herrero y Roberto Moreno.
El equipo científico de Hatemedia —Sergio Arce, Roberto Moreno, Óscar De Gregorio y Xiomara Blanco— coincidió en que la opacidad algorítmica mercantiliza las emociones. Arce señaló que “los entornos están programados para buscar el conflicto y premiar la reacción visceral“, mientras que Moreno lo atribuyó a la “caja negra” que “monetiza esa relación”. De Gregorio defendió aplicar herramientas estructurales que “eviten la polarización, los sesgos y la direccionalidad de la sociedad”, una manipulación frente a la que Blanco urgió a priorizar la alfabetización crítica, advirtiendo que “el usuario no es consciente de que el algoritmo está sesgado“.
‘Omisión de socorro’ y vías de control
Sergio D’Antonio Maceiras (Universidad Politécnica de Madrid) apuntó a la responsabilidad de las tecnológicas mediante el concepto de omisión de socorro: “No se puede dejar todo el peso en el usuario, porque las empresas se están lucrando con este negocio de la ira. Tienen herramientas tecnológicas para frenar estos discursos y miran hacia otro lado porque les genera beneficio “.
A este respecto, Jacobo Herrero (Universidad de Valladolid) añadió que el usuario vive en un “ciclo perverso” que apela a emociones “muy viscerales” y le llevan mecánicamente a compartir o publicar con mayor agresividad”. Además, consideró que “el odio actual ya no se refiere solo a colectivos vulnerables o minoritarios. Hay un odio político o ideológico que engloba a muchos más usuarios y la legislación no lo contempla”.
Finalmente, Loreto Corredoira (Universidad Complutense de Madrid) propuso aplicar el principio de follow the money, una estrategia que funcionó con la piratería de contenidos: “Cuando hay dinero de por medio, las tecnológicas sí actúan. Por eso, una de las fórmulas más eficaces es seguir el dinero antes que perseguir al usuario”.
Como conclusión, los expertos coincidieron en la necesidad de empoderar al ciudadano a través de la alfabetización digital.
El documental realizado a partir de la jornada está disponible en UNIR TV.
*Investigadores en la primera foto: Valerio Basile, Julio Montero, Max Römer, Pavel Sidorenko, Pablo Picazo, Óscar De Gregorio y Xiomara Blanco.
