¿Están los algoritmos alimentando el antisemitismo en las redes sociales?

Enlace Judío.- El odio en línea es un problema complejo y creciente; los algoritmos, la fórmula actual para ayudar a que el contenido tenga éxito y se difunda solo lo exacerba, publicó The Times of Israel.

SABINE VON MERING y MONIKA HÜBSCHER

Los incidentes antisemitas han mostrado un fuerte aumento en los Estados Unidos. La Liga Antidifamación, un grupo de derechos civiles judíos con sede en Nueva York que ha estado rastreando casos desde 1979, descubrió que hubo 2717 incidentes en 2021. Esto representa un aumento del 34% con respecto a 2020. En Europa, la Comisión Europea encontró un aumento de siete veces en las publicaciones antisemitas en las cuentas en francés, y de más de trece veces en los comentarios antisemitas dentro de los canales alemanes durante la pandemia.

Junto con otros académicos que estudian el antisemitismo, comenzamos a observar cómo la tecnología y el modelo comercial de las plataformas de redes sociales estaban impulsando el antisemitismo. Un libro de 2022 que coeditamos, “Antisemitismo en las redes sociales“, ofrece perspectivas de EE. UU., Alemania, Dinamarca, Israel, India, Reino Unido y Suecia sobre cómo los algoritmos en Facebook, Twitter, TikTok y YouTube contribuyen a difundir el antisemitismo.

¿Cómo se ve el antisemitismo en las redes sociales?

El odio contra los judíos en las redes sociales a menudo se expresa en representaciones estereotipadas de judíos que se derivan de la propaganda nazi o en la negación del Holocausto.

Las publicaciones antisemitas en las redes sociales también expresan odio hacia los judíos que se basa en la noción de que todos los judíos son sionistas, es decir, son parte del movimiento nacional que apoya a Israel como estado judío, y el sionismo se construye como un mal innato.

Sin embargo, el antisemitismo de hoy no solo está dirigido a los israelíes y no siempre toma la forma de lemas tradicionales o discursos de odio. El antisemitismo contemporáneo se manifiesta en varias formas, como GIF, memes, vlogs, comentarios y reacciones como me gusta y no me gusta en las plataformas.

La académica Sophie Schmalenberger descubrió que el antisemitismo se expresa no solo en imágenes y lenguaje directo e hiriente en las redes sociales, sino también en formas codificadas que fácilmente pueden pasar desapercibidas. Por ejemplo, en Facebook, el partido radical de derecha de Alemania Alternative für Deutschland, o AfD, omite la mención del Holocausto en las publicaciones sobre la Segunda Guerra Mundial. También utiliza lenguaje y retórica antisemitas que presentan el antisemitismo como aceptable.

El antisemitismo puede adoptar formas sutiles, como en los emojis. La combinación de emoji de una estrella de David, un símbolo judío y una rata se parece a la propaganda nazi que compara a los judíos con alimañas. En la Alemania nazi, la constante repetición y normalización de tales representaciones condujo a la deshumanización de los judíos y, finalmente, a la aceptación del genocidio.

Otras formas de antisemitismo en las redes sociales son los ataques de trolls antisemitas: los usuarios se organizan para interrumpir eventos en línea inundándolos con mensajes que niegan el Holocausto o difunden mitos de conspiración como hace QAnon.

Los académicos Gabi Weimann y Natalie Masri han estudiado TikTok. Descubrieron que los niños y los adultos jóvenes corren un peligro especial de estar expuestos, a menudo sin darse cuenta, al antisemitismo en la plataforma muy popular y de rápido crecimiento, que ya cuenta con más de mil millones de usuarios en todo el mundo. Parte del contenido que se publica combina clips de imágenes de la Alemania nazi con texto nuevo que menosprecia o se burla de las víctimas del Holocausto.

La exposición continua a contenido antisemita a una edad temprana, dicen los académicos, puede llevar tanto a la normalización del contenido como a la radicalización del espectador de TikTok.

Antisemitismo algorítmico

El antisemitismo está alimentado por algoritmos, que están programados para registrar el compromiso. Esto asegura que cuanto más interacción reciba una publicación, más usuarios la verán. El compromiso incluye todas las reacciones, como me gusta y no me gusta, acciones y comentarios, incluidos los contracomentarios. El problema es que las reacciones a las publicaciones también desencadenan golpes de dopamina gratificantes en los usuarios. Dado que el contenido escandaloso crea mayor participación, los usuarios se sienten más animados a publicar contenido odioso.

Sin embargo, incluso los usuarios de las redes sociales que publican comentarios críticos sobre contenido odioso no se dan cuenta de que, debido a la forma en que funcionan los algoritmos, terminan contribuyendo a su difusión.

La investigación sobre recomendaciones de videos en YouTube también muestra cómo los algoritmos conducen gradualmente a los usuarios a contenido más radical. El antisemitismo algorítmico es, por lo tanto, una forma de lo que el criminólogo Matthew Williams llama “odio algorítmico” en su libro “La ciencia del odio”.

¿Qué se puede hacer al respecto?

Para combatir el antisemitismo en las redes sociales, las estrategias deben estar basadas en evidencia. Pero ni las empresas de redes sociales ni los investigadores han dedicado suficiente tiempo y recursos a este tema hasta el momento.

El estudio del antisemitismo en las redes sociales plantea desafíos únicos para los investigadores: necesitan acceso a los datos y la financiación para poder ayudar a desarrollar contraestrategias efectivas. Hasta ahora, los académicos dependen de la cooperación de las empresas de redes sociales para acceder a los datos, que en su mayoría no están regulados.

Las empresas de redes sociales han implementado pautas para denunciar el antisemitismo en las redes sociales, y las organizaciones de la sociedad civil han estado exigiendo acciones contra el antisemitismo algorítmico. Sin embargo, las medidas tomadas hasta ahora son lamentablemente inadecuadas, si no peligrosas. Por ejemplo, el contradiscurso, que a menudo se promueve como una posible estrategia, tiende a amplificar el contenido de odio.

Para abordar de manera significativa el discurso de odio antisemita, las empresas de redes sociales tendrían que cambiar los algoritmos que recopilan y seleccionan los datos de los usuarios para las empresas de publicidad, que constituyen una gran parte de sus ingresos.

Hay una difusión mundial y sin fronteras de publicaciones antisemitas en las redes sociales que se está produciendo a una escala sin precedentes. Creemos que combatir este problema requerirá esfuerzos colectivos de las empresas de redes sociales, los investigadores y la sociedad civil.

Reproducción autorizada con la mención siguiente: ©EnlaceJudío