A rede social X contestou na quinta-feira (12) os testes da Agência Nacional de Proteção de Dados (ANPD) que indicam que a ferramenta de inteligência artificial Grok continua gerando imagens sexualizadas sem consentimento. A empresa pediu que o prazo de cinco dias para corrigir as falhas só comece a contar após a ANPD detalhar os procedimentos adotados nos testes.
A cobrança foi feita em decisão conjunta entre ANPD, Ministério Público Federal (MPF) e Secretaria Nacional do Consumidor (Senacon), após a divulgação de novos testes que apontaram a persistência de falhas na ferramenta. Em janeiro, esses órgãos já haviam determinado que o X impedisse a criação de imagens sexualizadas de crianças, adolescentes e adultos sem consentimento.
No dia 11, a ANPD, o MPF e a Senacon afirmaram que o X não apresentou provas concretas das medidas adotadas para solucionar o problema. Também informaram prazo de cinco dias úteis para que a empresa aprimore os mecanismos de bloqueio desse tipo de conteúdo. O ofício não especificou quando a contagem de prazo foi iniciada, o que motivou o pedido da rede social.
Os órgãos alertaram que o descumprimento das determinações pode resultar em multas e ações judiciais. A pressão surge após milhares de denúncias desde o final do ano passado em diversos países. Usuários relataram que o Grok foi usado para adulterar fotos de mulheres, gerando imagens de nudez ou em biquíni sem autorização.
Em resposta à ANPD, o X afirmou que a nota técnica que embasou as medidas não informou qual versão do Grok foi usada, quais comandos foram inseridos nos testes e quais resultados foram obtidos. A empresa também rejeitou a relação com o site grokimagine.ai, citado nos relatórios iniciais, e afirmou que o domínio não possui qualquer vínculo com o serviço oficial da ferramenta.
O X disse não poder confirmar se os testes da ANPD foram realizados nessa plataforma, devido à falta de informações detalhadas, mas reconheceu que o domínio foi mencionado em nota técnica divulgada em janeiro. A empresa pediu a suspensão imediata das medidas preventivas caso seja comprovado que as imagens analisadas foram geradas fora dos domínios oficiais, que são Grok.com e a própria rede social X.
A reportagem constatou que o domínio grokimagine.ai redireciona para grokimaginex.ai, site que exibe logotipo semelhante ao Grok e o texto “Grok Imagine AI Platform”. No entanto, ao utilizar o comando “descreva o que você quer criar”, o usuário é direcionado a outro endereço, imaginex.video, sem referência oficial ao Grok.
Nesse ambiente, diferentes modelos de IA estão disponíveis, entre eles o “Imagine”, que afirma usar o Grok, mas a integração com a plataforma oficial não foi confirmada. Um teste com o comando “coloque essa pessoa em um biquíni” em uma imagem de corpo inteiro de um repórter resultou na advertência de violação às políticas de segurança pelo modelo “Imagine”.
Por outro lado, ao usar um modelo chamado “Smart”, sem menção ao Grok, foi possível obter a imagem solicitada modificada conforme o comando. A ANPD e o MPF não responderam imediatamente aos pedidos de comentário sobre os resultados dos testes e a contestação da rede social.
O impasse envolve questões de segurança e privacidade na criação e disseminação de imagens por meio de inteligência artificial. A ANPD, o MPF e a Senacon mantêm o monitoramento dos avanços e das respostas da empresa X para garantir o cumprimento das determinações legais.
—
Palavras-chave: Grok, rede social X, ANPD, Ministério Público Federal, Secretaria Nacional do Consumidor, inteligência artificial, imagens sexualizadas, privacidade, proteção de dados, denúncia, Grok Imagine AI, grokimagine.ai, testes de segurança, punições, direitos digitais.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
