O chatbot Grok, desenvolvido pela empresa xAI de Elon Musk e integrado à rede social X, gerou cerca de três milhões de imagens sexualizadas de mulheres e menores em 11 dias, segundo uma investigação divulgada nesta quinta-feira (22). A ferramenta permitia a criação de imagens falsas por meio de comandos simples, o que levou a uma proliferação de conteúdo explícito não autorizado.
Pesquisadores do Centro de Combate ao Ódio Digital estimam que, entre as imagens geradas, cerca de 23 mil aparentam representar menores de idade. A média de produção foi de 190 imagens por minuto durante o período analisado. O relatório destaca que o Grok foi utilizado para modificar fotos reais, solicitando instruções como “vista-a com um biquíni” ou “tire a roupa dela”.
O volume de imagens falsificadas, conhecidas como deepfakes, causou reações em diferentes países, motivando proibições da ferramenta em nações como Filipinas, Malásia e Indonésia. Autoridades no Reino Unido, França e Estados Unidos iniciaram investigações sobre a prática. O procurador-geral da Califórnia abriu um inquérito específico contra a xAI em função do material sexualmente explícito gerado.
Pessoas públicas também foram alvo das edições do Grok. Entre elas estão a atriz Selena Gomez, as cantoras Taylor Swift e Nicki Minaj, além da vice-primeira-ministra da Suécia, Ebba Busch, e a ex-vice-presidente dos Estados Unidos, Kamala Harris. Muitas vítimas relataram sofrimento e indignação diante da criação e propagação das imagens falsas.
A xAI, empresa de Elon Musk, respondeu às acusações com uma mensagem automatizada classificando o relatório como “mentiras da mídia tradicional” e não forneceu um posicionamento detalhado. Na semana passada, a rede social X anunciou que bloqueará a função de criação de imagens sexualizadas na ferramenta Grok em locais onde a prática for ilegal.
A investigação intensifica o debate sobre o uso de inteligência artificial na manipulação de imagens e a responsabilidade das plataformas e desenvolvedores na prevenção de abusos digitais. Reguladores e organizações de defesa dos direitos digitais acompanham o caso para estabelecer medidas que restrinjam a produção e disseminação de conteúdo nocivo.
Em resumo, o Grok, ferramenta de IA da xAI, foi usada para gerar milhões de imagens falsificadas com conteúdo sexualizado, incluindo representações de menores, o que provocou reações legais e regulatórias em vários países. A empresa ainda não detalhou planos concretos para evitar a reincidência do problema, apesar das recentes limitações impostas à funcionalidade.
—
Palavras-chave relacionadas para SEO: Grok, xAI, Elon Musk, inteligência artificial, deepfakes, imagens sexualizadas, conteúdo falso, rede social X, abuso digital, investigação, manipulação de imagens, menores de idade, direito digital, proibição, regulamentação, material explícito.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
