En estos momentos agitados y polarizados, toca retomar un tema del que ya hablamos, hace mucho, en una de las entradas que más satisfechos nos dejaron en los primeros tiempos de este blog. Será porque nos sirvió para canalizar, constructivamente, eso mismo que veníamos a tratar: el odio. Porque si algo malo tiene el odio, es que precisamente con la buena intención de oponerse a él, es muy fácil acabar cayendo también en él, y ese es precisamente el combustible para la estrategia de la mencionada polarización.
Cuando nos hemos referido antes a “estos momentos agitados”, no deja de ser cierto que ya no son solo estos en concreto, sino también hace semanas, o meses, o incluso años (y lo que nos quedará por ver). Pero también es verdad que estas semanas son especialmente demostrativas de cómo el odio se transmite a través de las redes sociales y demás plataformas de internet. A estos meses en los que se han prácticamente juntado dos procesos electorales en España, y otra cosa no, pero las campañas políticas están cada vez más polarizadas, se le suma, estos días, la celebración de las Fiestas del Orgullo LGTIQ+, que pone de relieve cómo toda esa gente a la que no le gusta cómo es el mundo que tiene a su alrededor, independientemente de que la razón de su disgusto les afecte a ellos en concreto (que más bien no), no encuentra mejor forma de canalizar (en este caso, destructivamente) su mala uva lanzando improperios y demás muestras de intolerancia a través de aplicaciones y páginas web.
Uno siempre puede pensar que el odio tiene un punto de justicia divina, consistente en que quien más lo suele sufrir son las entrañas de quien lo profesa y cultiva (aquello de que el odio es un veneno que uno toma esperando que enferme otro). Sin embargo, cuando los odiadores no se conforman con pensar, sino que además actúan, o como mínimo transmiten lo que piensan, queda claro que la difusión del discurso del odio provoca un envenenamiento generalizado de la sociedad. Y si hay algo que ha multiplicado la capacidad de difusión de todo (de lo bueno y de lo malo), es la tecnología digital de esta época.
Un inciso, respecto a lo anterior: Odio ha habido siempre, y transmisión del mismo, también. Incluso antes (y muchísimo antes) de la era de internet. Ahora “simplemente” se ha llevado a otro nivel. En el artículo de más abajo, podréis leer que algún experto sostiene que el auge del odio ha llegado con o tras la pandemia, pero la verdad es que antes ya estaba alcanzando cotas muy altas, como demuestra la propia entrada que os hemos enlazado antes, y que es varios años previa a la Covid-19, o también el documental de El dilema de las redes, que también comentamos en su día en este blog, y que se estrenó en 2020 pero hablaba de lo que ya había surgido antes de la pandemia, y en el que por cierto se explica muy bien el incremento de la polarización política en EEUU con la llegada de las redes sociales.
Os vamos a dejar con las conclusiones del mencionado artículo que os traemos hoy, en el que, entre otras cosas, se discute sobre la conveniencia de bloquear los discursos de odio en redes, sobre si tal medida es efectiva o contraproducente, y también sobre la influencia de los algoritmos en la potenciación de este tipo de contenidos en internet, ahora que está tan en boga la inteligencia artificial. Así pues, echadle un ojo si el tema os preocupa y, por favor, llevarse bien las personas, ¡hombre ya!
El mecanismo del discurso de odio en redes: ¿es posible desactivarlo?
Laila A. Wahedi y Daniel Robert Thomas, investigadores de Meta (empresa matriz de Facebook, WhatsApp e Instagram), han llevado a cabo un reciente estudio, que se ha publicado en la revista científica PNAS. El estudio, Disrupting hate: The effect of deplatforming hate organizations on their online audience, clarifica algo que ya apuntaban investigaciones anteriores: expulsar de las redes a los llamados líderes tóxicos es eficaz para disminuir la difusión de discursos de odio.
El personal investigador identificó a los perfiles más activos dentro de seis comunidades que movían a 26.000 usuarios de redes. Dichos perfiles (estos líderes tóxicos) fueron expulsados de las comunidades. Wahedi y Thomas encontraron tres conclusiones "destacables": una, que tras la expulsión los usuarios veían, de promedio, casi la mitad de contenido de odio por día que antes de la expulsión; dos, que el subgrupo menos afín a estos líderes tóxicos pasó enseguida a recibir contenido más saludable y a consumir menos odio, mientras que los más implicados reaccionaron negativamente y aumentaron este consumo negativo a corto plazo, pero empezó a decaer en solo dos meses. La tercera conclusión es que, de promedio, los usuarios redujeron su consumo total de contenido (en torno a un 10 %).
Si, como concluye el estudio, queda demostrada la eficacia de la expulsión de estos perfiles para limitar el discurso de odio, ¿es el camino para acabar con él? "Debemos defender la libertad de expresión siempre y cuando no atente contra la dignidad de nadie", explicaba Dolors Reig, profesora colaboradora de los Estudios de Ciencias de la Información y de la Comunicación de la Universitat Oberta de Catalunya (UOC). El cambio de paradigma comunicativo que han supuesto las redes sociales "nos ha convertido a todos en micromedios" que nos facultan para trasladar nuestro mensaje a las multitudes. "Las redes sociales son una herramienta potentísima para el cambio social, pero también lo son para la difusión de discursos de odio", añade.
La pandemia como impulsora de los discursos de odio
¿Cuándo han arreciado este tipo de mensajes en las redes sociales? El secretario general de las Naciones Unidas, António Guterres, le puso fecha al estallido del discurso de odio: la pandemia de la COVID-19. Así lo reflejaba en una carta de 2020, donde hacía un llamamiento a todos los agentes sociales y políticos para detener esta "oleada de odio y xenofobia". "El sentimiento antiextranjero ha aumentado en internet y en las calles", decía. En aquel momento, la gente empleó las redes sociales "de forma intensiva para informarse y relacionarse, una conducta que se vio potenciada por el propio confinamiento: las plataformas sociales se presentaban como ventanas de conexión con el mundo exterior", comenta Silvia Martínez, directora del máster universitario de Social Media: Gestión y Estrategia de la UOC, profesora de los Estudios de Ciencias de la Información y de la Comunicación de la UOC e investigadora del grupo GAME. A la vez, "las emociones que se experimentaron durante aquel periodo excepcional incrementaron también la crispación: había miedo, tensión, preocupación por la situación sanitaria, un contexto económico de incertidumbre...".
Si la pandemia es un punto de inflexión a partir del cual este tipo de mensajes calan y se difunden más, los motivos que los hacen proliferar son variados. Por una parte, están los de tipo psicosocial, hacia los que apunta Dolors Reig: la presencia de "comunidades que fomentan y aplauden estos discursos" es uno ellos (como aquellas sobre las que han actuado Wahedi y Thomas). Otros son el anonimato y la distancia emocional que implica no interactuar cara a cara, la evasión de la responsabilidad "por percibir que se actúa en un espacio virtual que genera la sensación de que el contexto no es real", y el efecto espiral hacia la transgresión. La saturación de mensajes en las redes hace que "uno necesite ser cada vez más transgresor para generar la misma atención", explica la profesora, que incide en el uso de esta espiral que hacen a menudo los propios políticos: "Muchos políticos han jugado a esto: a decir la barbaridad más burda para conseguir la popularidad", comenta la experta.
Silvia Martínez, por su parte, habla de dinámicas de funcionamiento y conversación de ciertas redes sociales como palanca que mueve estos mensajes. "La inmediatez y el mensaje breve favorecen la difusión de contenidos más viscerales que racionales y argumentados. La reflexión y el análisis ceden terreno frente a la reacción automática". También añade otro factor que interviene en la proliferación: las interacciones, la viralidad. "Los algoritmos suelen potenciar y dar más visibilidad a esos contenidos que acumulan interacciones, y el discurso del odio suele generar precisamente un aumento de las reacciones". Reig suma a estas causas la proliferación de partidos de ultraderecha en todo el mundo y la circulación de información "distorsionada o directamente falsa" que se propaga en estas plataformas. "Las redes sociales se han vuelto instrumentos de propaganda", afirma.
Perfil de la víctima del discurso de odio: ideología distinta, origen distinto y orientación sexual o identidad de género distintas
¿Qué colectivos reciben más odio? El último Informe sobre la evolución de los delitos de odio en España emitido por el Ministerio de Interior refleja que los tres objetos principales de los delitos de odio son, por este orden, los de enfrentamiento ideológico (34,9 %), los vinculados al racismo y la xenofobia (30,2 %) y los que atentan contra la orientación sexual o la identidad de género (16,3 %). "Los partidos con ideologías más extremas están promoviendo estos discursos de odio", indica Reig.
Con respecto al racismo y la xenofobia, el Observatorio Español contra el Racismo y la Xenofobia (OBERAXE) monitoriza a diario el discurso de odio en las redes sociales y notifica en las mismas los contenidos constitutivos de delito. En su último boletín de monitorización (marzo-abril de 2023) indica que las redes han retirado el 55 % de los contenidos denunciados. Los discursos de odio hacia las personas norteafricanas y la islamofobia copan el 60 % de estos contenidos.
En cuanto a los mensajes de odio relacionados con la orientación sexual o la identidad de género, el perfil de la víctima suele ser menor de cuarenta años, tal como refleja el citado informe de Interior. En el caso del grupo de edad de 18 a 25 años, constituye el 42,5 % de estos delitos. "La naturalidad con que la juventud lee mensajes de odio hacia las personas transexuales en la red lleva a que a la sociedad fuera de línea se le haga un acoso escolar más duro", dice Roig.
El mencionado OBERAXE, en su memorándum explicativo, enumera los rasgos en los que incide el discurso del odio en su recomendación de política general n.º 15: racismo, discriminación racial, discriminación basada en el género, sexismo, homofobia, transfobia, xenofobia, antisemitismo, islamofobia y discriminación contra las personas gitanas, además de varios delitos que incluyen el genocidio o la trivialización de este tipo de delitos.
Aprender a combatir los discursos de odio en las redes
El estudio presentado por Laila A. Wahedi y Daniel Robert Thomas abre una puerta a los responsables de las redes sociales para tomar medidas al respecto, pero ¿qué otras medidas pueden implementarse para reducir y combatir el discurso de odio? "Idealmente, las medidas deberían focalizarse en que no se produjera ese discurso", explica Martínez, "pero, una vez iniciado, lo fundamental es no alimentarlo al comentarlo o compartirlo, pues esto es un modo de reacción y, como señalaba antes, los algoritmos suelen dar más visibilidad a los contenidos que generan interacciones". Además, esa mayor visibilidad hace "más fácil que se produzcan nuevas reacciones, que normalmente suelen ser viscerales y con mensajes cada vez más polarizados". Para Dolors Reig, es vital formar en el uso de las redes e informar: "A mi alumnado le digo, por ejemplo, cuando surge un vídeo de abusos que atenta contra la dignidad de las personas, que ni lo busquen ni lo visualicen, porque al final los algoritmos de las redes sociales funcionan por popularidad".
Finalmente, denunciar es otra opción para frenar estos perfiles tóxicos. "El usuario debe conocer las opciones y vías para denunciar esos contenidos y ponerlos en conocimiento de las propias plataformas, que pueden intervenir eliminando contenidos y suspendiendo perfiles e, incluso, en caso de que haya podido incurrirse en un delito de odio, ponerlo en conocimiento de la policía o la guardia civil", incide Martínez. Frenarlos evita consecuencias peores: "Esto es el posdigitalismo", explica Dolors Reig. "Estamos en una sociedad en la que lo digital influye en lo real. Los mensajes de odio llevan a la gente a suicidarse".