O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) recomendaram nesta terça-feira (20) que a rede social X, controlada por Elon Musk, adote medidas imediatas para impedir a geração de imagens eróticas falsas com a ferramenta de inteligência artificial Grok no Brasil. A ação ocorre após denúncias sobre o uso indevido da ferramenta para criar conteúdos sintéticos sexualizados com imagens de pessoas reais.
O documento assinado pelas autoridades brasileiras alerta para a necessidade de bloquear a produção de imagens, vídeos e áudios que envolvam crianças, adolescentes ou adultos identificáveis em contextos sexualizados sem autorização. Segundo o MPF, a medida visa evitar a disseminação de conteúdos que possam afetar a privacidade e a dignidade das pessoas retratadas.
O pedido enfatiza ainda que, caso o X não cumpra as recomendações ou adote medidas insuficientes, novas providências administrativas e judiciais poderão ser aplicadas. A iniciativa reflete um esforço conjunto para proteger dados pessoais e direitos dos usuários contra práticas consideradas abusivas no ambiente digital.
O Grok é uma ferramenta gratuita oferecida pela rede social que utiliza inteligência artificial para gerar conteúdos variados, mas que tem sido usada para criar representações íntimas falsas de pessoas reais, o que gerou preocupações legais e sociais. Usuários do X têm explorado o recurso para recriar imagens eróticas não autorizadas, denunciadas por organizações de defesa do consumidor.
O Instituto de Defesa do Consumidor (Idec), responsável por encaminhar parte das denúncias, considerou as recomendações das autoridades insuficientes. Em nota, o Idec criticou a abordagem dos órgãos como “meramente burocrática”, por se limitar a fazer recomendações, enquanto a ferramenta continua funcionando normalmente.
Segundo o Idec, o volume de casos envolvendo o uso indevido da ferramenta para gerar imagens sexualizadas, inclusive de crianças e adolescentes, expõe consumidoras brasileiras a riscos significativos, situação que não foi adequadamente enfrentada pela decisão dos órgãos.
A controvérsia em torno do Grok evidencia os desafios enfrentados pelas instituições ao lidar com tecnologias digitais que possibilitam a criação e divulgação de conteúdos sintéticos que podem violar direitos fundamentais. A recomendação conjunta busca preencher lacunas na regulamentação e aplicar mecanismos de controle para evitar novos abusos na rede social.
Até o momento, o X não divulgou resposta oficial sobre as demandas das autoridades brasileiras. O caso segue em monitoramento pela ANPD, MPF e Senacon, que prometem acompanhar a implementação das medidas e agir com rigor caso sejam constatadas falhas no cumprimento das orientações.
A iniciativa faz parte de uma tendência global de incremento da fiscalização sobre o uso ético de inteligência artificial, especialmente relacionado à proteção de dados pessoais e ao combate à disseminação de conteúdos falsos que possam causar danos a indivíduos. No Brasil, o episódio coloca em evidência a necessidade de adaptações legais e tecnológicas para lidar com riscos emergentes nas plataformas digitais.
—
Palavras-chave: X Elon Musk, Grok, inteligência artificial, imagens falsas, conteúdo sexualizado, Ministério Público Federal, ANPD, Senacon, Ministério da Justiça, legislação digital, proteção de dados, defesa do consumidor, Idec, tecnologia e privacidade, redes sociais, Brasil.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
