Red monetiza imágenes falsas del Holocausto generadas por IA

Red internacional monetiza imágenes falsas del Holocausto generadas por IA

Una sofisticada red internacional, que opera principalmente desde Pakistán, está generando ingresos significativos mediante la publicación de imágenes generadas por inteligencia artificial de víctimas ficticias del Holocausto en Facebook. Según investigaciones de la BBC, estas cuentas utilizan el programa de Monetización de Contenidos de Meta para ganar dinero basado en métricas de visualizaciones y engagement.

Contenido perturbador y alcance masivo

La red crea imágenes hiperrealistas pero completamente falsas de escenarios que nunca ocurrieron durante el Holocausto. Estas incluyen imágenes de niños judíos alimentando patos junto a los canales de Ámsterdam, músicos actuando con uniformes de campos de concentración en Auschwitz y parejas enamoradas reunidas junto a alambradas. Una cuenta bajo el nombre de Abdul Mughees, presuntamente con base en Pakistán, acumuló más de 1.200 millones de visualizaciones en cuatro meses y ganó aproximadamente 17.000 euros con este contenido.

Falsificación histórica y preocupación de expertos

El Museo Estatal Auschwitz-Birkenau ya había alertado sobre estas cuentas en junio, señalando que distorsionan detalles históricos o inventan completamente historias y víctimas. Representantes del museo describieron las imágenes como "inquietantemente perfectas, estilizadas y no provenientes de ningún archivo histórico". El investigador senior Kees Ribbens del Instituto NIOD para Estudios de Guerra, Holocausto y Genocidio enfatizó el peligro de este contenido: "Las imágenes auténticas e históricas se mezclan con falsificaciones, haciendo imposible distinguir fuentes confiables de las manipuladas".

Respuesta de Meta y políticas de contenido

Meta, la empresa matriz de Facebook, ha iniciado investigaciones sobre múltiples páginas y grupos involucrados en este esquema. La compañía ha eliminado varias páginas por violar las reglas de autenticidad. Sin embargo, este incidente plantea serias preguntas sobre los sistemas de moderación de contenido y las implicaciones éticas de monetizar contenido histórico sensible mediante imágenes generadas por IA.