Itongadol/Agencia AJN.- El Movimiento para Combatir el Antisemitismo (CAM, por sus siglas en inglés) publicó un informe en el que advirtió que una red coordinada de “rabinos” falsos generados con inteligencia artificial (IA) está siendo utilizada para difundir estereotipos antisemitas en TikTok.
El estudio, publicado por el Centro de Investigación sobre Antisemitismo del CAM, identifica 49 cuentas dentro de la red que presentan de forma sistemática estereotipos peligrosos como si fueran “sabiduría financiera judía desde adentro”. Estos perfiles fraudulentos acumularon en conjunto más de 950.000 seguidores y generaron más de 10 millones de “me gusta” en la plataforma.
Los investigadores analizaron cuentas específicas como @rabbirothstein y @rabbistirberg, y detectaron marcos narrativos idénticos y patrones lingüísticos compartidos diseñados para introducir prejuicios en el discurso dominante.
El informe remarcó que los videos de formato corto se apoyan en gran medida en caricaturas visuales y estereotipos clásicos para reforzar prejuicios históricos, reduciendo las barreras psicológicas hacia la hostilidad y la violencia en el mundo real.
A su vez, el estudio afirmó que el algoritmo de recomendación de TikTok impulsa activamente este contenido engañoso hacia adolescentes.
Asimismo, una red separada de 70 cuentas falsas de rabinos en Instagram fue recientemente eliminada en una acción conjunta con Meta, detalló el CAM. La organización instó a TikTok a desarrollar herramientas de IA para detectar este tipo de videos y a lanzar una campaña pública de concientización sobre cómo identificar propaganda generada por IA.
El uso de contenidos generados por IA en redes sociales creció de forma sostenida en los últimos años, impulsado por la disponibilidad de herramientas capaces de crear imágenes, voces y videos sintéticos con apariencia realista.
Diversos estudios académicos y reportes de plataformas advirtieron sobre su potencial para amplificar campañas de desinformación, especialmente cuando se combinan con sistemas de recomendación algorítmica que priorizan el contenido viral.
Como consecuencia, en los últimos años empresas tecnológicas como Meta y TikTok anunciaron medidas para identificar contenido manipulado o generado por IA, incluyendo etiquetas de transparencia y sistemas automatizados de detección.
Sin embargo, investigadores y organismos internacionales señalan que la identificación de redes coordinadas sigue siendo un desafío técnico, en particular cuando el contenido se presenta de forma aparentemente legítima o utiliza identidades ficticias creíbles.