A inteligência artificial (IA) tem sido usada para criar deepfakes que simulam pessoas com síndrome de Down em conteúdos sexuais lucrativos, conforme investigação da BBC publicada em 2024. O caso envolve imagens manipuladas de jovens, usadas sem consentimento, para atrair seguidores e direcionar o público a plataformas de conteúdo adulto.
Alice, uma jovem de 17 anos, foi alvo dessa prática ao descobrir uma conta falsa no Instagram que usava fotos e vídeos de seu corpo. Seu rosto foi editado por IA para parecer uma pessoa com síndrome de Down. A conta chegou a reunir 25 mil seguidores e redirecionava usuários para websites externos de conteúdo adulto. Alice tentou contato para remover o perfil e informou ser menor de idade, mas não obteve resposta.
A investigação aponta que esse tipo de conta faz parte de uma tendência que usa deepfakes para criar personagens com deficiências, aproveitando imagens públicas de mulheres reais sem autorização. Os rostos são alterados por filtros de IA para simular a síndrome de Down e aumentar o engajamento sexualmente sugestivo das postagens.
Essas contas geram lucro ao enviar seus seguidores para plataformas como o OnlyFans, que oferece conteúdo adulto por assinatura. Embora o OnlyFans proíba deepfakes ou conteúdos não consensuais gerados por IA, os perfis identificados exibem corpos de várias mulheres distintas, sem mostrar os rostos, o que dificulta a identificação do consentimento.
Eleanor Drage, pesquisadora em ética da IA na Universidade de Cambridge, alerta que o uso dessas imagens sem permissão explora a deficiência para ganho financeiro e atua de forma prejudicial às vítimas. A prática, segundo ela, cria uma rede de exploração envolvendo diversas mulheres.
Alice denunciou a conta ao Instagram, mas recebeu resposta automática afirmando que o perfil não violava as normas da plataforma. Segundo a BBC, conteúdos sexualmente explícitos gerados por deepfakes são proibidos no Instagram, embora os vídeos relacionados à jovem fossem sugestivos, mas não explícitos.
A investigação também revelou a existência de pessoas especializadas em criar influenciadores virtuais com IA para entretenimento adulto. Entre eles está o francês Dorian, que compartilha tutoriais em plataformas como YouTube e Telegram para criar personagens de nichos específicos, incluindo pessoas com deficiências como síndrome de Down.
A BBC encontrou evidências de que Dorian promove contas deepfake com rostos alterados por IA relacionadas a essa síndrome, embora não tenha sido possível confirmar que ele seja responsável pelos deepfakes que usam a imagem de Alice. As tentativas de contato com ele não tiveram retorno.
Essa prática afeta não só as pessoas que têm suas imagens apropriadas, mas também toda a comunidade com síndrome de Down. Entre ativistas que se manifestaram contra essa tendência estão Jeremy e Audrey, produtores de podcasts norte-americanos com a condição. Eles expressam preocupação com a forma como a deficiência está sendo explorada e pedem o fim da prática.
Depois da divulgação dos fatos, o YouTube informou ter cancelado canais relacionados a esses criadores de conteúdo por violarem políticas contra spam, golpes e práticas enganosas. A Meta, responsável pelo Instagram, afirmou que a maioria das contas denunciadas já foi removida, inclusive a que usava a imagem de Alice.
O OnlyFans declarou que realiza processos rigorosos de verificação para garantir idade legal e consentimento dos criadores, além de moderar os conteúdos, proibindo imagens deste tipo.
O uso da inteligência artificial para gerar deepfakes que exploram a imagem de pessoas com deficiência em contextos sexuais levanta questões éticas e legais sobre consentimento, privacidade e exploração econômica. As plataformas digitais enfrentam desafios para conter essas práticas enquanto vítimas buscam proteção e reparação.
—
Palavras-chave para SEO: inteligência artificial, deepfake, síndrome de Down, conteúdo sexual, OnlyFans, Instagram, ética em IA, direitos digitais, exploração de imagem, plataformas digitais
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
