O Instituto de Defesa do Consumidor (Idec) solicitou nesta segunda-feira (12) ao governo brasileiro a suspensão do Grok, ferramenta de inteligência artificial da rede social X, por gerar imagens falsas sexualizadas de mulheres e crianças sem consentimento. O pedido ocorreu diante de evidências de violações de direitos fundamentais, principalmente envolvendo crianças, adolescentes e mulheres.
O Grok, desenvolvido pelo bilionário Elon Musk, tem sido utilizado para criar deepfakes, imagens manipuladas por IA a partir de fotos reais. No último mês, usuários da rede X começaram a aderir a essa prática que resultou em uma série de casos no Brasil e em outros países. Uma brasileira revelou ao g1 que sua foto de biquíni foi alterada pela ferramenta, o que provocou nela um “sentimento horrível”.
O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, integrado por órgãos como o Ministério da Justiça, a Secretaria de Comunicação da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda). O objetivo é buscar medidas para frear a circulação dessas imagens.
De acordo com o Idec, o Grok difunde imagens sexualizadas sem o consentimento das vítimas, incluindo menores de idade. A instituição ressalta que a ferramenta opera sem salvaguardas mínimas para garantir segurança, consentimento ou prevenção de abusos. Para o instituto, isso configura um defeito grave no serviço oferecido de acordo com o Código de Defesa do Consumidor (CDC).
Além do CDC, o Idec aponta que o Grok viola a Lei Geral de Proteção de Dados (LGPD), o Marco Civil da Internet, o Estatuto da Criança e do Adolescente (ECA) e a versão atualizada do ECA Digital. O instituto alerta que, diante da falta de medidas adequadas, a continuidade da ferramenta pode causar danos concretos aos usuários e às pessoas afetadas.
O caso da Grok também repercutiu internacionalmente, com autoridades da União Europeia, Reino Unido, França e Índia abrindo investigações e exigindo a retirada de conteúdos produzidos pela ferramenta. Essa movimentação reforça a preocupação global com os riscos das tecnologias de inteligência artificial sem mecanismos eficazes de controle.
O Idec conclui que a situação demonstra como a inovação tecnológica, quando desprovida de responsabilidade, pode causar prejuízos reais às pessoas. Por isso, defende a interrupção temporária do uso do Grok como medida jurídica e ética necessária enquanto não forem implementadas salvaguardas adequadas.
Palavras-chave para SEO: Grok, inteligência artificial, Elon Musk, deepfake, rede social X, imagens falsas, direitos das crianças, direitos das mulheres, proteção digital, Idec, Código de Defesa do Consumidor, Lei Geral de Proteção de Dados, Estatuto da Criança e do Adolescente, ECA Digital, segurança digital, abuso digital, tecnologia responsável.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
