A BBC revela a Web de spammers lucrando com imagens de Ai Holocausto

Uma rede internacional de spammers está publicando imagens geradas pela IA das vítimas do Holocausto no Facebook, descobriu uma investigação da BBC sobre “AI Slop”.

As organizações dedicadas a preservar a memória do Holocausto dizem que as imagens estão deixando os sobreviventes e as famílias angustiadas.

Eles também criticaram a empresa controladora do Facebook, Meta, dizendo que permite que os usuários em sua plataforma transformem a atrocidade em um “jogo emocional”.

Há apenas algumas fotos genuínas de dentro do campo de concentração de Auschwitz durante a Segunda Guerra Mundial.

Mas nos últimos meses, os spammers da IA ​​publicaram imagens falsas que pretendem ser de dentro do acampamento, como um prisioneiro que tocava um violino ou amantes nos limites das cercas – atraindo dezenas de milhares de curtidas e ações.

“Aqui temos alguém inventando as histórias … para algum tipo de jogo emocional estranho que está acontecendo nas mídias sociais”, disse Pawel Sawicki, porta -voz do memorial de Auschwitz na Polônia.

“Este não é um jogo. Este é um mundo real, sofrimento real e pessoas reais que queremos e precisamos comemorar”.

A BBC acompanhou muitas dessas imagens nas contas de uma rede de criadores de conteúdo baseados no Paquistão que colaboram de perto em como ganhar dinheiro no Facebook. Eles são o programa de monetização de conteúdo da Meta (CM), um sistema “somente para convidados” que paga aos usuários por conteúdo e visualizações de alto desempenho.

Uma conta chamada Abdul Mughees, listada como morando no Paquistão, publicou capturas de tela alegando ter ganhado US $ 20.000 através de esquemas de monetização de mídia social, incluindo a Meta’s. Outra postagem parece mostrar que a conta acumulou mais de 1,2 bilhão de visualizações sobre o conteúdo ao longo de quatro meses.

Não conseguimos verificar independentemente os ganhos de qualquer criador.

Entre as muitas postagens do Facebook da conta de Abdul Mughees estão várias fotos geradas por IA de vítimas fictícias do Holocausto e histórias falsas que incluíam uma criança escondida sob as tábuas do assoalho ou um bebê sendo deixado em trilhos de trem fora de um campo de concentração.

A análise da BBC das atividades on -line da conta e dezenas de outras pessoas como sugere que elas estão postando quase exclusivamente “AI Slop”.

O termo refere-se a imagens e texto de baixa qualidade, geralmente produzidos em grandes volumes e spam nas mídias sociais.

Auschwitz tornou-se um tópico popular para páginas e grupos com temas da história. Alguns com nomes como “Tales Timeless” e “History Haven” estavam postando mais de 50 vezes por dia.

Em junho, o Museu Auschwitz alertou relatos como esses roubavam seus postos, processando -os através de modelos de IA e frequentemente denominando detalhes históricos ou fabricando completamente narrativas e vítimas. Em um post no Facebook, o museu disse que essas imagens eram uma “distorção perigosa” que “desrespeita as vítimas e assedia sua memória”.

Sawicki disse que o tsunami de imagens falsas estava minando a missão do Memorial de Auschwitz de aumentar a conscientização sobre o Holocausto.

“Já começamos a receber comentários em nossas postagens no Facebook que ‘Oh, esta é uma fotografia gerada pela AI'”, disse ele.

Sobreviventes e famílias também são perturbados pelo surto de Slop Holocausto AI, de acordo com uma organização que promove a educação e a pesquisa do Holocausto.

“Eles não entendem muito bem o que estão vendo”, disse o Dr. Robert Williams, da Aliança Internacional do Holocausto.

Ele disse que os sobreviventes do Holocausto estavam sentindo um “certo senso de tristeza que isso foi autorizado a acontecer”, apesar dos investimentos do governo e filantrópicos em campanhas de conscientização.

“Eles sentem que seus esforços não foram suficientes”, disse ele.

“Isso é uma coisa muito triste a considerar porque o último dos sobreviventes em breve nos deixará”.

A Meta não incentiva intencionalmente os usuários a postar histórias falsas, inclusive sobre o Holocausto, mas seu sistema recompensa as postagens com alto engajamento. A BBC também encontrou contas de IA com sede na Índia, Vietnã, Tailândia e Nigéria.

Para entender por que essas redes estão produzindo tipos específicos em massa, a BBC conversou com um homem paquistanês Fazal Rahman, que está matriculado em vários esquemas de monetização de conteúdo de mídia social e diz que este trabalho se tornou sua única fonte de renda.

Embora ele diga que não cria imagens do Holocausto e não sabia o que a palavra significava quando inicialmente perguntou, ele opera nos mesmos grupos do Facebook que aqueles que sabem.

Rahman disse que uma página no Facebook com 300.000 seguidores pode ganhar US $ 1.000 por mês, se tivesse “conteúdo premium” atendido a públicos de maior valor do Reino Unido, EUA e Europa. Ele estima que as vistas ocidentais valessem oito vezes mais por posto do que as da Ásia.

Ele disse que a história como tópico era um fator confiável do tráfego on -line.

Outros criadores parecem concordar. A BBC viu vídeos instrucionais passo a passo sobre como os modelos de IA populares podem ser usados ​​para gerar imagens e texto contínuos de histórico falso.

Em um vídeo, o criador pediu ao AI Chatbot que listasse os principais eventos históricos que eles poderiam usar como base para a criação de conteúdo e recebeu o Holocausto como uma de suas respostas.

Outros conselhos dados por alguns criadores incluem dicas sobre como enganar o público, ao fazer sua página representar outras entidades para construir o público e se tornar elegível para o programa CM da Meta.

O Facebook possui um recurso de transparência de página, que permite aos usuários rastrear os nomes anteriores das páginas. Usando isso, a BBC encontrou muitas páginas que haviam publicado o Holocaust AI Slop, que uma vez representou como uma variedade de entidades diferentes, incluindo departamentos oficiais de combate a incêndios nos EUA, negócios comerciais e influenciadores americanos – tudo sem seu consentimento.

Essas páginas, de acordo com os posts públicos dos criadores, também podem ser vendidos ou alugados para aqueles que desejam invadir o mercado de criadores de conteúdo.

A BBC perguntou à Meta sobre vários perfis que publicaram conteúdo de IA com tema do Holocausto e também parecia ter se envolvido em práticas enganosas.

Vários perfis e grupos foram removidos, incluindo os originalmente sinalizados pelo Memorial Auschwitz em junho.

Um porta -voz da gigante da tecnologia disse que, embora essas imagens falsas não violassem suas políticas de conteúdo, ela as investigou e descobriu que quebraram suas regras em torno da representação ou negociação de páginas.

“Removemos as páginas e grupos compartilhados conosco e desativamos as contas por trás delas por violar nossas políticas sobre spam e comportamento inautêntico”, disseram eles.

A IA foi usada no passado para comemorar o Holocausto e dar vida às histórias das vítimas reais, mas o Dr. Williams, da Aliança de Remembrance Internacional do Holocausto.

“Qualquer forma de manipulação extrema é algo que devemos evitar”, disse ele.

Relatórios adicionais de Umer Draz Nangiana, BBC Urdu