Três adolescentes processaram nesta segunda-feira (17) a xAI, empresa de inteligência artificial de Elon Musk, nos Estados Unidos, por gerar imagens sexualizadas falsas a partir de fotos reais usando o chatbot Grok. A ação coletiva foi protocolada em um tribunal federal de San José, na Califórnia, após o surgimento de deepfakes envolvendo mulheres e crianças no fim de 2025.
O processo acusa a ferramenta gratuita da rede social X de transformar fotos comuns das jovens em imagens hiper-realistas com conteúdo pornográfico. Essas montagens circularam em plataformas como X, Discord e Telegram antes de migrar para a dark web, onde foram usadas como moeda de troca para outros conteúdos ilegais, segundo as advogadas das vítimas.
Uma pessoa já detida teria utilizado o chatbot Grok para criar as imagens a partir de fotos retiradas das redes sociais ou outras fontes. O caso gerou investigações em diversos países e no estado da Califórnia devido à repercussão negativa e ao potencial dano causado às vítimas.
A mãe de uma das adolescentes, do Tennessee, relatou ao tribunal o impacto emocional da situação, mencionando que a filha teve um ataque de pânico após descobrir a circulação das imagens. Outra vítima enfrenta pesadelos constantes, enquanto uma terceira precisa usar remédios para dormir e sente medo de participar da própria cerimônia de formatura.
As advogadas responsáveis pelo processo afirmam que a xAI projetou o Grok “deliberadamente para produzir conteúdo sexualmente explícito com fins lucrativos”, sem proteger os usuários contra a criação de pornografia infantil, ao contrário de outras empresas do setor. Elas afirmam que a empresa falhou em implementar medidas de segurança necessárias para evitar esse tipo de abuso.
Um estudo do Center for Countering Digital Hate revelou que, em um período de 11 dias no fim de 2025, o Grok gerou cerca de 3 milhões de imagens sexualizadas, das quais 23 mil representavam menores de idade. Em resposta à controvérsia, a xAI restringiu, em janeiro, o uso da geração de imagens do Grok exclusivamente para assinantes.
A ação coletiva destaca a necessidade de regulamentação mais rigorosa e de responsabilidade das empresas que desenvolvem tecnologias de inteligência artificial. Ela aponta para o risco de exploração e danos irreparáveis causados pelo uso indevido dessas ferramentas, especialmente para menores de idade.
Até o momento desta publicação, a xAI não divulgou comentário oficial sobre o processo judicial. O caso deve se desenrolar nos próximos meses, com possíveis desdobramentos que podem influenciar políticas de controle e ética em IA.
—
Palavras-chave: inteligência artificial, Grok, xAI, Elon Musk, deepfake, pornografia infantil, ação coletiva, imagens sexualizadas, chatbot, Califórnia, redes sociais, dark web, tecnologia, segurança digital.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
