Empresa con pasado nazi financia uso de IA contra antisemitismo en línea

Enlace Judío.- Mientras las plataformas de redes sociales toman medidas para bloquear la negación del Holocausto, un proyecto interdisciplinario está aprovechando la inteligencia artificial (IA) en la batalla contra el antisemitismo en línea.

MATT LEBOVIC

Según los creadores de “Decodificar el antisemitismo”, se requiere un enfoque colaborativo para combatir el antisemitismo en Internet. Pero los expertos se preguntan: ¿ya existe la tecnología?

“Decodificar el antisemitismo” es una colaboración entre el King’s College de Londres y el Centro de Investigación sobre el antisemitismo de la Universidad Técnica de Berlín. El proyecto está financiado por la Fundación Alfred Landecker, que aporta 250 millones de euros durante 10 años, informó The Times of Israel en su sitio web.

La Fundación Landecker fue creada el año pasado por JAB Holding Company, con sede en Alemania. Propiedad de la conocida familia Reimann, la empresa antecesora de la era nazi utilizó al menos 838 trabajadores forzados durante la guerra. Hoy, JAB Holding Company posee subsidiarias que incluyen Panera Bread, Au Bon Pain y Krispy Kreme.

El líder de la empresa en tiempos de guerra, Albert Reimann Junior, era un nazi devoto que tenía una relación constante con la hija de un judío, Alfred Landecker. Su romance “prohibido” produjo tres hijos. Landecker fue llevado por la Gestapo a un gueto en Izbica, la actual Polonia, donde sus huellas se desvanecieron. Se supone que fue trasladado a un campo de exterminio nazi donde falleció.

En 2016, la familia Reimann comenzó a encargar una investigación sobre sus vínculos nazis. “Pero la familia Reimann no estaba satisfecha con simplemente descubrir su propio pasado. Los herederos de la empresa también están preocupados por apoyar a los sobrevivientes del Holocausto y, como lección aprendida de la historia para hoy, promover la democracia y los derechos humanos para preservar y expandir una sociedad pluralista”, se lee en el sitio web de la Fundación Landecker.

“Aprenda directamente del ser humano”
La misión central de la recién creada Fundación Landecker es compartir la historia del Holocausto y luchar contra el antisemitismo, particularmente en Internet. A través del proyecto “Decodificar del antisemitismo” de la fundación, se está creando una herramienta de detección de código abierto para alinearse con las plataformas de redes sociales, dijo el diseñador principal David Allington.

“Los esfuerzos similares en curso de Facebook y Twitter para combatir el discurso de odio en línea son bien intencionados, pero no cumplen con lo que se requiere”, dijo Allington, profesor titular de inteligencia artificial social y cultural en el King’s College de Londres.

“Donde nuestro enfoque difiere del de [Facebook y Twitter] es que utilizaremos no solo la inteligencia artificial, sino también el apoyo de historiadores, lingüistas y otras disciplinas para reconocer los sentimientos [antisemitas]”, dijo Allington a The Times of Israel.

La “complejidad” de la expresión antisemita en Internet requiere un enfoque interdisciplinario, dijo Allington. Por ejemplo, el Reino Unido ha visto un aumento en los “mitos de la conspiración” que acusan a los judíos de crear y difundir COVID-19. Gran parte del lenguaje y las imágenes están “codificados”, dijo el diseñador, y expresados ​​en otros términos menos familiares.

Según la experta en inteligencia artificial Katie Hall, existen limitaciones significativas cuando se trata de usar la inteligencia artificial para identificar y combatir el discurso de odio. Algunas de esas limitaciones provienen de los conjuntos de datos utilizados por las grandes empresas de tecnología, dijo.

“Hombres y mujeres y diferentes razas y grupos étnicos se describen a sí mismos de manera diferente”, dijo Hall. “Sabemos que estos diferentes grupos simplemente usan el lenguaje de manera diferente, y la mayoría de los datos históricos son creados por grupos específicos: blancos y con educación universitaria”.

Como fundadora y directora ejecutiva del mercado de contratación basado en inteligencia artificial Claira, Hall ayuda a las empresas a reclutar grupos más diversos de candidatos para sus puestos.

“Estamos tratando de nivelar el campo de juego y ser prudentes y cuidadosos para eliminar los prejuicios”, dijo Hall a The Times of Israel.

Actualmente, los conjuntos de datos dependen en gran medida del análisis de texto, dijo Hall. Pocos algoritmos han sido entrenados, por ejemplo, con intercambios de audio o encuentros filmados. Sin embargo, dijo Hall, hay un “movimiento en marcha para integrar voz, conversación y video en los conjuntos de datos”.

Según Hall, “es necesario aprender directamente del ser humano. Es el momento oportuno ahora mismo si queremos encontrar una manera de detectar sesgos o no. La humanidad es muy variada y los conjuntos de datos están muy por detrás”.

“Pelear con una mano a la espalda”
“Decodificar el antisemitismo” no es el primer esfuerzo para combatir el discurso de odio en línea. En los últimos años, decenas de fundaciones y organizaciones han intentado abordar el aumento del discurso de odio contra los judíos y otros grupos.

“Sea lo que sea que estén haciendo estas organizaciones, no está funcionando”, dijo Andreas Eberhardt, director fundador y CEO de la Fundación Alfred Landecker.

“Es por eso que hemos adoptado un enfoque tan colaborativo y durante las próximas semanas, meses y años la asociación verá unirse a analistas del discurso, lingüistas computacionales e historiadores, combinando su experiencia para un objetivo común”, dijo Eberhardt en una entrevista con The Times of Israel.

“Tal colaboración es la única forma de avanzar en este tema y no hacerlo sería como luchar con una mano a nuestras espaldas”, dijo Eberhardt, quien había dirigido varias fundaciones comprometidas con las relaciones entre judíos y alemanes y la memoria del Holocausto.

Según el conferenciante principal Allington, la mayoría de las difamaciones contra judíos en Internet “no están autorizadas”. Y antes de que la difamación pueda ser sancionada, o castigada, debe identificarse, dijo.

“Una vez que se revele [el discurso de odio], como nuestro proyecto espera hacer, entonces la escala del problema quedará clara y las organizaciones que estén en condiciones de eliminar dicho contenido, las plataformas en las que se publican, se verán obligadas a actuar y los presionaremos para que lo hagan”, dijo Allington.

Desde los ataques terroristas antisemitas en Francia hasta el tiroteo en la sinagoga de Pittsburgh en 2018, el discurso de odio en línea puede conducir a la violencia en el mundo real.

“Vemos que el discurso de odio en línea y los crímenes de odio están siempre conectados en cierta medida”, dijo Matthias J. Becker, lingüista de la Universidad Técnica de Berlín y líder del proyecto para “Decodificar el antisemitismo”.

“Para evitar que cada vez más usuarios se radicalicen en la web, es importante identificar las dimensiones reales del antisemitismo, también teniendo en cuenta las formas implícitas que podrían volverse más explícitas con el tiempo”, dijo Becker.

Reproducción autorizada con la mención siguiente: ©EnlaceJudío