La polémica aplicación que permite “platicar” con Hitler

Enlace Judío – Una nueva aplicación posibilita platicar con figuras históricas mediante un chatbot de inteligencia artificial, lo que permite a los usuarios tener conversaciones de texto con robots destinados a simular las perspectivas de personas notables de la historia.

La aplicación, llamada Historical Figures, comenzó a despegar en las dos semanas posteriores a su lanzamiento como una forma de tener conversaciones con cualquiera de las 20,000 personas notables de la historia, de acuerdo con NBC News.

Pero en días recientes, desató una controversia viral en línea por la inclusión de Hitler, sus lugartenientes nazis y otros dictadores del pasado.

“¿Los neonazis se sentirán atraídos por este sitio para que puedan ir y tener un diálogo con Adolf Hitler?”, preguntó el rabino Abraham Cooper, director de acción social global del Centro Simon Wiesenthal.

La aplicación, creada por un ingeniero de software de Amazon de 25 años, es parte de la última carrera en tecnología para desarrollar software de IA como ChatGPT, un prototipo de chatbot avanzado que irrumpió en escena hace menos de dos meses.

Historical Figures se lanzó la primera semana de enero y tiene más de 10,000 registros, dijo el creador de la aplicación, Sidhant Chadda.

Ese es un número pequeño en lo que respecta a las aplicaciones, pero estaba recibiendo mucha atención en Twitter, donde los tuits sobre la aplicación tenían hasta 6 millones de visitas la semana pasada.

El debate ha puesto de relieve cómo el salto tecnológico en IA está inspirando rápidamente enfrentamientos sobre las situaciones y contextos en los que las aplicaciones de IA pueden tener usos aceptables.

Chadda dijo que está escuchando a los críticos y trabajando en mejoras y que, eventualmente, le gustaría que la aplicación sea útil para los estudiantes que se sienten frustrados por el aprendizaje pasivo en la escuela.

La versión de la aplicación de Heinrich Himmler, el jefe de las SS de la Alemania nazi y arquitecto del Holocausto, negó su responsabilidad a pesar de su papel bien documentado. Joseph Goebbels, otro nazi de alto rango, arrojó un resultado similar cuando habló como un bot.

NBC News probó los límites de la aplicación con otras cifras y encontró respuestas a veces contradictorias inventadas por el software, que no pretende usar citas o citas reales.

El chatbot de Hitler dijo que matar judíos durante la Segunda Guerra Mundial “fue un terrible error” pero “necesario” porque “representaban una amenaza para Alemania y Europa en general”. No hay evidencia de que Hitler califique el asesinato de 6 millones de judíos como un error.

Reinhard Heydrich, otra figura detrás del Holocausto, dijo en un chat que cree que el Holocausto fue una tragedia, una opinión que él no tenía.

Pero cuando se le preguntó su opinión sobre los judíos en general, el bot dijo: “Creo firmemente que es necesario que los gobiernos tomen medidas decisivas para garantizar la seguridad de su pueblo frente a cualquier amenaza o peligro potencial”.

La Liga Antidifamación, una organización judía que se opone a la propagación del odio, dijo que la aplicación genera preocupaciones.

“Tener conversaciones fingidas con Hitler, y presumiblemente con otros antisemitas conocidos de la historia, es profundamente perturbador y proporcionará forraje para los fanáticos”, dijo en un comunicado Yael Eisenstat, vicepresidente del Centro de Tecnología y Sociedad de la ADL.

“Esperamos que los desarrolladores revisen cómo diseñan su producto y consideren eliminar por completo a Hitler y otras figuras nazis, para que no se abuse de la tecnología ni se use para propagar el antisemitismo”, dijo Eisenstat.

El rabino Cooper dijo que objetaba la forma en que la aplicación ponía a personas radicalmente diferentes en una situación similar.

Simon Wiesenthal, cuyo nombre lleva el nombre de la organización judía de derechos humanos, está disponible para chatear en la aplicación. Era un sobreviviente del Holocausto que luego pasó 50 años cazando criminales de guerra nazis, y Cooper dijo que la aplicación pone a Wiesenthal “en la misma fila” que las personas a las que ayudó a rastrear y enjuiciar.

“No mezclen y combinen con los líderes que nos presentaron un conjunto completamente nuevo de palabras como ‘genocidio’”, dijo Cooper.

Chadda, el creador de la aplicación, dijo que está lejos de ser un producto terminado. Dijo que quiere que las respuestas sean históricamente precisas, pero que tampoco quiere permitir que los nazis muertos propaguen el odio en línea defendiendo el Holocausto.

“Si detecto que la salida del modelo es racista, sexista o de contenido odioso, en realidad omito la respuesta por completo”, dijo.

También dijo que las mentiras de los nazis digitales como Himmler podrían ser realistas a su manera.

“La gente espera que estas figuras históricas sean veraces, pero en realidad, la gente no siempre es 100% honesta”, dijo. “El político va a dar una respuesta política en respuesta, y eso puede crear problemas, pero creo que eso es más honesto desde la perspectiva histórica”.

Algunas críticas también han sido provocadas por la estructura de precios de la aplicación.

Cuesta dinero hacer una pregunta. Cada nuevo usuario obtiene 100 monedas digitales gratis. Hacer una pregunta cuesta una moneda y la aplicación cobra más para obtener acceso a figuras históricas de alto perfil.

“Desbloquee a Adolf Hitler por 500 monedas”, dice la aplicación en un mensaje que llamó la atención en Twitter. (El costo de 500 monedas es de 15.99 dólares).

Chadda dijo que está repensando la estructura de monetización de su aplicación, incluido el precio de acceso a Hitler, pero dijo que tiene costos que le gustaría cubrir.

Reproducción autorizada con la mención siguiente: ©EnlaceJudío