Itongadol/Agencia AJN.- Un nuevo estudio israelí académico descubrió que algunos de los principales modelos de Inteligencia Artificial (IA) del mundo reproducen sistemáticamente estereotipos antisemitas centenarios.
“Del mito al modelo: la representación del judío en la IA generativa”, de los académicos israelíes Michael Gilead y Gal Gutman, descubrió que los tropos antisemitas históricos aparecen integrados en los sistemas de IA modernos.
Los investigadores emplearon un enfoque novedoso para identificar representaciones subyacentes de «el judío» mediante la creación de cadenas de asociaciones que permiten revelar sesgos implícitos. Se centraron específicamente en ChatGPT-4 Turbo, al que instruyeron para crear una lista de nombres de estadounidenses judíos y no judíos, de entre 18 y 80 años. La lista incluía un nombre masculino y uno femenino para cada categoría, lo que resultó en un total de 252 nombres.
Los ejemplos de nombres judíos incluían Ethan Katz, Noah Weiss y Gabriel Horowitz; ejemplos de nombres no judíos incluyen Tyler Johnson, Kyle White y Dylan Wilson.
Para cada uno de los 252 nombres, se pidió que escribiera una breve biografía de 100 palabras, imaginándose a sí mismo como un novelista experto en seleccionar nombres que se corresponden con rasgos de carácter específicos.
Se eliminaron los marcadores de identidad religiosa y los sistemas de IA evaluaron la personalidad y los rasgos sociales de cada personaje.
Los investigadores descubrieron que los personajes con nombres judíos eran calificados sistemáticamente como más competentes, privilegiados, dominantes y obsesivos. Al mismo tiempo, eran calificados como menos agradables, menos colectivistas y con menor calidez.
Los hallazgos se replicaron posteriormente en DeepSeek-V3 y Mistral.
El análisis de los investigadores reveló que los judíos en el contenido generado son estereotipados sistemáticamente dentro del cuadrante de alta competencia y baja calidez, junto con grupos como los asiáticos orientales. Las biografías generadas a partir de nombres judíos obtuvieron calificaciones consistentemente altas en rasgos relacionados con la competencia (inteligencia, eficiencia, asertividad) y notablemente bajas en rasgos relacionados con la calidez (amabilidad, simpatía).
En cuanto a la relevancia de estos hallazgos, los investigadores señalaron que el discurso antisemita histórico ha presentado con frecuencia a los judíos como agentes de la disrupción, socavando el orden tradicional y la cohesión social.
Lejos de ser un fenómeno del pasado, esta asociación histórica entre los judíos y “los males de la subjetividad moderna persiste y podría estar ahora codificada en los modelos de aprendizaje de idiomas”, explicaron los investigadores.