O governo da Alemanha e instituições memoriais exigem que redes sociais interrompam a circulação de imagens falsas geradas por inteligência artificial (IA) que distorcem e banalizam o Holocausto. A demanda foi comunicada em uma carta divulgada em janeiro, em resposta à disseminação crescente dessas imagens nas plataformas digitais.
As organizações responsáveis por preservar a memória do Holocausto alertam para a circulação de conteúdos fabricados que apresentam episódios falsos, como encontros entre prisioneiros de campos de concentração e seus libertadores ou cenas de crianças atrás de arame farpado. Segundo a carta, esse tipo de material trivializa os eventos históricos e pode aumentar a desconfiança dos usuários em relação a documentos autênticos.
O ministro da Cultura e da Mídia da Alemanha, Wolfram Weimer, manifestou apoio aos esforços das instituições memoriais para que imagens geradas por IA sejam claramente identificadas e, se necessário, removidas das redes sociais. Para ele, a questão envolve respeito pelos milhões de pessoas mortas e perseguidas durante o regime nazista.
As críticas também se estendem a empresas de inteligência artificial, como a xAI, de Elon Musk, responsável pelo chatbot Grok, que enfrentam pressão após a divulgação de milhares de imagens deepfake sexualizadas envolvendo mulheres e menores de idade. As instituições lembram que parte desse conteúdo é produzido para atrair engajamento e lucro, enquanto outra parte visa distorcer fatos históricos, inverter papéis de vítimas e agressores e promover narrativas revisionistas.
Entre as organizações signatárias da carta estão os memoriais dos campos de concentração Bergen-Belsen, Buchenwald, Dachau e outros locais onde judeus e minorias sofreram perseguições e mortes. Elas exigem que as plataformas digitais adotem medidas proativas para combater esse tipo de desinformação, ao invés de aguardar denúncias dos usuários.
Entre as ações propostas estão a identificação clara dos conteúdos gerados por IA e a proibição da monetização associada a esses materiais falsos. A disseminação do que é chamado de “AI slop” — conteúdos digitais fabricados de baixa qualidade — tem sido motivo de preocupação entre especialistas, que alertam para o risco de comprometer a capacidade do público em diferenciar informações verdadeiras de falsas.
O avanço das ferramentas de inteligência artificial tem ampliado o debate sobre o uso ético da tecnologia e seus impactos na preservação da memória histórica. A circulação de imagens falsas sobre o Holocausto reforça a necessidade de regulamentação e fiscalização mais rigorosas em plataformas de redes sociais.
O governo alemão e as instituições memoriais dizem que o combate à desinformação é fundamental para proteger a memória das vítimas do Holocausto e impedir a propagação de discursos de ódio e revisionismo histórico.
Palavras-chave: Alemanha, Holocausto, inteligência artificial, redes sociais, imagens falsas, AI slop, deepfake, desinformação, memória histórica, campos de concentração, Wolfram Weimer, xAI, Grok, narrativa revisionista, Memorial do Holocausto
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
