ADL desarrolla algoritmo para rastrear antisemitismo en redes sociales

(JTA) — Cuando se trata de antisemitismo en las redes sociales, los algoritmos que rigen las principales plataformas tienen parte de la culpa de su alcance. Pero la Liga Antidifamación (ADL) espera combatir la propagación creando un algoritmo propio.

El grupo judío anunció el martes que ha creado un sistema llamado Índice de Odio en Línea, describiéndolo como la primera herramienta desarrollada para medir el antisemitismo en las plataformas de redes sociales. El programa puede filtrar millones de publicaciones rápidamente para detectar comentarios antisemitas y ayudar a eliminarlos.

Este sistema utiliza un algoritmo informado por inteligencia artificial para encontrar y clasificar publicaciones como posiblemente antisemitas. Esas publicaciones luego se envían a un equipo de voluntarios y expertos, que usan su juicio para tomar la decisión final. El sistema también rastrea si las publicaciones finalmente se eliminan.

El Índice de Odio en Línea era necesario porque las empresas de redes sociales no están siendo lo suficientemente transparentes sobre sus esfuerzos para frenar la propagación del discurso de odio en sus plataformas, según el director ejecutivo de ADL, Jonathan Greenblatt, cuya organización ha estado presionando a las grandes empresas tecnológicas sobre el tema durante años.

“Usaremos esta herramienta para responsabilizar a las plataformas de redes sociales de qué tan bien eliminan el odio de manera proactiva y qué tan bien responden sus moderadores de contenido a los informes”, dijo Greenblatt en un comunicado.

Uno de los objetivos del proyecto es demostrar que si la ADL ha desarrollado la tecnología para rastrear el antisemitismo, seguramente Silicon Valley también puede hacerlo y, por lo tanto, puede hacer más para abordar el problema.

Las empresas de redes sociales han intentado abordar el antisemitismo en el pasado, pero su historial es, en el mejor de los casos, mixto.

Facebook (ahora conocido como Meta) ha tropezado tras su decisión de prohibir la negación del Holocausto en sus plataformas; Los ingenieros desarrollaron pantallas que a veces también bloqueaban publicaciones educativas legítimas destinadas a difundir la conciencia sobre el Holocausto.

Para su primer análisis, la ADL utilizó su sistema para examinar Reddit y Twitter, recopilando publicaciones de una semana de agosto del año pasado. La ADL eligió estas plataformas porque son las únicas importantes que brindan acceso abierto a sus datos. Facebook, por el contrario, normalmente no permite que grupos externos se conecten para realizar investigaciones.

El algoritmo utilizado por la ADL fue estructurado para detectar instancias de posible antisemitismo. En un proceso conocido como aprendizaje automático, los seres humanos etiquetaron los comentarios como antisemitas y los alimentaron al algoritmo, que a su vez comenzó a reconocer patrones. Cuantos más comentarios procesaba el algoritmo, mejor se volvía para atrapar a los antisemitas.

Declaraciones antisemitas como “Los judíos son lagartos, prueben que me equivoco” y “La magia del control mental judío” se encontraban entre las aproximadamente 2000 publicaciones de Reddit identificadas por el sistema ADL, de un total de 40 millones de comentarios agregados a Reddit durante esa semana.

La cantidad de personas que ven un comentario en Reddit está determinada en parte por si los usuarios lo votan a favor o en contra, y hay buenas noticias al respecto. En promedio, los usuarios califican los comentarios antisemitas un tercio menos que otros tipos de publicaciones, según un informe que ADL publicó sobre su análisis.

“El análisis estadístico de esos puntajes muestra que el contenido antisemita en Reddit se recompensa significativamente menos que el contenido no antisemita”, dice el informe.

Para Twitter, que proporciona solo una instantánea limitada de sus datos, la ADL estimó que hubo unos 27400 tuits antisemitas entre los 440 millones publicados durante la semana que examinó su software, y que estos tuits podrían haber sido vistos por hasta 130 millones de personas.

La ADL advirtió que diseñó su redada para ser conservadora y que solo analizó texto en inglés, lo que significa que se excluyeron videos, audio e imágenes, así como cualquier cosa escrita en un idioma extranjero.

En ambas plataformas, la mayoría de los comentarios antisemitas permanecieron durante meses después de su publicación y no se eliminaron incluso después de que la ADL alertó a las plataformas sobre ellos.

Uno de los desafíos para cualquier intento de erradicar el discurso antisemita es definir el término, con académicos y miembros que tienen una amplia variedad de puntos de vista sobre la cuestión. Un tema particularmente polémico es decidir cuándo las críticas a Israel cruzan la línea hacia el antisemitismo.

El informe de ADL dice que su algoritmo está entrenado por expertos internos y voluntarios de la comunidad judía. Eso no significa que el juicio humano esté completamente subcontratado a las computadoras. En el sistema de ADL, la inteligencia artificial simplemente se usa para filtrar grandes cantidades de contenido, y sus equipos humanos determinan en última instancia qué publicaciones constituyen antisemitismo.

Para ayudarlos en sus decisiones, cada voluntario recibe un manual que también está disponible en el sitio web de ADL. Ese manual incluye una referencia a la definición de antisemitismo redactada por la Alianza Internacional para el Recuerdo del Holocausto, que ha resultado controvertida porque se centra en el discurso antiisraelí.

Algunos ejemplos en la cartilla de declaraciones que pueden considerarse antisemitas incluyen “afirmar que la existencia de un Estado de Israel es un esfuerzo racista” y “negar al pueblo judío su derecho a la autodeterminación”.

Los críticos dicen que la definición de la IHRA es incorrecta porque tiene el potencial de deslegitimar el activismo propalestino si es adoptada por universidades y organismos gubernamentales. Los partidarios, por otro lado, dicen que cualquier discusión sobre antisemitismo hoy debe lidiar con ataques a Israel.

En una publicación en su sitio web anterior a la introducción de su herramienta de software, la ADL rechaza la idea de que la adopción de la definición podría prohibir las críticas a Israel, argumentando que expresar tales críticas está protegido por la constitución de los Estados Unidos.