Rede monetiza imagens falsas do Holocausto geradas por IA

Rede internacional lucra com imagens falsas do Holocausto

Uma sofisticada rede internacional, operando principalmente a partir do Paquistão, está gerando receitas significativas através da publicação de imagens geradas por inteligência artificial que retratam vítimas fictícias do Holocausto no Facebook. De acordo com investigações da BBC, essas contas utilizam o Programa de Monetização de Conteúdo da Meta para ganhar dinheiro com base em visualizações e estatísticas de engajamento.

Conteúdo perturbador e alcance massivo

A rede cria imagens extremamente realistas, mas completamente falsas, de cenários que nunca ocorreram durante o Holocausto. Estas incluem imagens de crianças judias alimentando patos ao longo dos canais de Amsterdã, músicos performando em uniformes de campos de concentração listrados em Auschwitz e casais românticos se encontrando próximo a cercas de arame farpado. Uma conta sob o nome de Abdul Mughees, supostamente baseada no Paquistão, acumulou mais de 1,2 bilhão de visualizações em quatro meses e lucrou aproximadamente €17.000 com este conteúdo.

Falsificação histórica e preocupações de especialistas

O Museu Estadual de Auschwitz-Birkenau já havia alertado sobre essas contas em junho, observando que elas distorcem detalhes históricos ou inventam completamente histórias e vítimas. Representantes do museu descreveram as imagens como "assustadoramente perfeitas, estilizadas e não originárias de qualquer arquivo histórico". O pesquisador sênior Kees Ribbens, do Instituto NIOD para Estudos de Guerra, Holocausto e Genocídio, enfatizou o perigo desse conteúdo: "Imagens autênticas e históricas se misturam com falsificações, tornando impossível distinguir fontes confiáveis das fraudulentas".

Resposta da Meta e políticas de conteúdo

A Meta, empresa controladora do Facebook, iniciou investigações sobre várias páginas e grupos envolvidos neste esquema. A empresa removeu diversas páginas por violação das regras de autenticidade. No entanto, o incidente levanta questões sérias sobre sistemas de moderação de conteúdo e as implicações éticas da monetização de conteúdo histórico sensível através de imagens geradas por IA.