Réseau Facebook profite d'images IA de l'Holocauste

Réseau international monétise des images falsifiées de l'Holocauste

Un réseau international sophistiqué opérant principalement depuis le Pakistan génère des revenus substantiels en publiant des images générées par IA représentant des victimes fictives de l'Holocauste sur Facebook. Selon les enquêtes de la BBC, ces comptes utilisent le programme de monétisation de contenu de Meta pour gagner de l'argent basé sur le nombre de vues et les métriques d'engagement.

Contenu troublant et portée massive

Le réseau crée des images hautement réalistes mais complètement fabriquées montrant des scénarios qui ne se sont jamais produits pendant l'Holocauste. Celles-ci incluent des représentations d'enfants juifs nourrissant des canaux le long des canaux d'Amsterdam, de musiciens jouant en uniformes rayés de camp de concentration à Auschwitz, et d'amoureux se rencontrant aux clôtures de barbelés. Un compte sous le nom d'Abdul Mughees, prétendument basé au Pakistan, a accumulé plus de 1,2 milliard de vues en quatre mois et gagné environ 17 000 euros avec ce contenu.

Distorsion historique et préoccupations d'experts

Le Musée d'État d'Auschwitz-Birkenau a émis des avertissements en juin concernant ces comptes, notant qu'ils déforment les détails historiques ou inventent complètement des histoires et des victimes. Les représentants du musée ont décrit les images comme "effroyablement parfaites, stylisées et ne provenant d'aucune archive historique." Le chercheur principal Kees Ribbens de l'Institut NIOD pour les études sur la guerre, l'Holocauste et le génocide a souligné le danger d'un tel contenu : "Les images authentiques et historiques se mélangent aux fausses, rendant impossible la distinction entre sources fiables et fabriquées."

Réponse de Meta et politiques de contenu

Meta, la société mère de Facebook, a lancé des enquêtes sur plusieurs pages et groupes impliqués dans ce système. La société a supprimé plusieurs pages pour violation des règles d'authenticité. Cependant, l'incident soulève de sérieuses questions sur les systèmes de modération de contenu et les implications éthiques de la monétisation de contenu historique sensible via des images générées par IA.