Internationaal netwerk monetiseert nep-Holocaustbeelden
Een geavanceerd internationaal netwerk, voornamelijk opererend vanuit Pakistan, genereert aanzienlijke inkomsten door AI-gegenereerde afbeeldingen van fictieve Holocaustslachtoffers op Facebook te plaatsen. Volgens BBC-onderzoeken gebruiken deze accounts Meta's Content Monetization-programma om geld te verdienen op basis van weergaveaantallen en engagementstatistieken.
Verontrustende inhoud en enorme reikwijdte
Het netwerk creëert zeer realistische maar volledig vervalste afbeeldingen van scenario's die nooit tijdens de Holocaust hebben plaatsgevonden. Deze omvatten afbeeldingen van Joodse kinderen die eenden voeren langs Amsterdamse grachten, muzikanten die optreden in gestreepte concentratiekampuniformen in Auschwitz en geliefden die elkaar ontmoeten bij prikkeldraadversperringen. Eén account onder de naam Abdul Mughees, vermoedelijk gebaseerd in Pakistan, heeft binnen vier maanden meer dan 1,2 miljard views verzameld en ongeveer €17.000 verdiend met deze inhoud.
Historische vervalsing en expertzorgen
Het Staatsmuseum Auschwitz-Birkenau waarschuwde in juni al voor deze accounts, waarbij werd opgemerkt dat ze historische details verdraaien of verhalen en slachtoffers volledig verzinnen. Museumvertegenwoordigers beschreven de afbeeldingen als "griezelig perfect, gestileerd en niet afkomstig uit enig historisch archief." Senior onderzoeker Kees Ribbens van het NIOD Instituut voor Oorlogs-, Holocaust- en Genocidestudies benadrukte het gevaar van dergelijke inhoud: "Authentieke en historische afbeeldingen vermengen zich met nepbeelden, waardoor het onmogelijk wordt betrouwbare bronnen van vervalste te onderscheiden."
Reactie van Meta en contentbeleid
Meta, het moederbedrijf van Facebook, heeft onderzoeken ingesteld naar meerdere pagina's en groepen die bij dit schema betrokken zijn. Het bedrijf heeft verschillende pagina's verwijderd wegens schending van authenticiteitsregels. Het incident roept echter serieuze vragen op over contentmoderatiewystemen en de ethische implicaties van het monetariseren van gevoelige historische inhoud via AI-gegenereerde beelden.