Facebook-Netzwerk verdient mit KI-Holocaust-Bildern

Internationales Netzwerk monetarisiert gefälschte Holocaust-Bilder

Ein ausgeklügeltes internationales Netzwerk, das hauptsächlich aus Pakistan operiert, generiert erhebliche Einnahmen durch KI-generierte Bilder fiktiver Holocaust-Opfer auf Facebook. Laut BBC-Untersuchungen nutzen diese Konten Metas Content-Monetarisierungsprogramm, um Geld basierend auf Aufrufzahlen und Engagement-Metriken zu verdienen.

Beunruhigende Inhalte und massive Reichweite

Das Netzwerk erstellt hochrealistische aber vollständig gefälschte Bilder von Szenarien, die während des Holocausts nie stattgefunden haben. Dazu gehören Darstellungen jüdischer Kinder, die Enten an Amsterdamer Grachten füttern, Musiker, die in gestreiften Konzentrationslageruniformen in Auschwitz auftreten, und Liebende, die sich an Stacheldrahtzäunen treffen. Ein Konto unter dem Namen Abdul Mughees, angeblich based in Pakistan, hat innerhalb von vier Monaten über 1,2 Milliarden Aufrufe gesammelt und etwa 17.000 Euro mit diesen Inhalten verdient.

Geschichtsfälschung und Expertenbedenken

Das Staatliche Museum Auschwitz-Birkenau warnte bereits im Juni vor diesen Konten und stellte fest, dass sie historische Details verzerren oder Geschichten und Opfer vollständig erfinden. Museumsvertreter beschrieben die Bilder als "gruselig perfekt, stilisiert und nicht aus historischen Archiven stammend." Seniorforscher Kees Ribbens vom NIOD-Institut für Kriegs-, Holocaust- und Genozidstudien betonte die Gefahr solcher Inhalte: "Authentische und historische Bilder vermischen sich mit Fälschungen, was die Unterscheidung zwischen zuverlässigen und gefälschten Quellen unmöglich macht."

Metas Reaktion und Inhaltsrichtlinien

Meta, das Mutterunternehmen von Facebook, hat Untersuchungen mehrerer an diesem System beteiligter Seiten und Gruppen eingeleitet. Das Unternehmen hat mehrere Seiten wegen Verstoßes gegen Authentizitätsregeln entfernt. Der Vorfall wirft jedoch ernsthafte Fragen zu Content-Moderation-Systemen und den ethischen Implikationen der Monetarisierung sensibler historischer Inhalte durch KI-generierte Bilder auf.