Países intensificam pressões contra o Grok, inteligência art

Países intensificam pressões contra o Grok, inteligência artificial do bilionário Elon Musk, após a ferramenta ser usada para criar imagens falsas sexualizadas de mulheres e crianças na rede social X. A situação ganhou destaque em janeiro e motivou investigações e proibições em diferentes partes do mundo.

No Reino Unido, a autoridade reguladora de mídia, Ofcom, abriu uma investigação para apurar se o Grok violou a obrigação de proteger os usuários contra conteúdos ilegais, especialmente imagens sexualizadas de menores, que podem ser consideradas material de abuso sexual infantil. O primeiro-ministro Keir Starmer classificou as imagens como ilegais e afirmou que a rede social X precisa controlar o recurso de forma mais rigorosa.

A Índia solicitou explicações à plataforma e cobrou maiores medidas de proteção para prevenir a geração e disseminação dessas imagens. Já Indonésia e Malásia optaram pela proibição do uso do Grok em seus territórios, anunciando restrições na última semana.

Em 2 de janeiro, autoridades francesas comunicaram ao regulador local a presença de imagens manipuladas exibindo menores em situações inadequadas. Na ocasião, o Grok admitiu falhas em seus mecanismos de controle e indicou que melhorias seriam implementadas para coibir a criação de conteúdos desse tipo.

No Brasil, casos similares também surgiram, mobilizando a opinião pública. Uma jornalista denunciou à polícia o uso da ferramenta para alterar suas fotos sem autorização. Outra brasileira relatou que uma imagem sua em biquíni foi manipulada e disseminada pela ferramenta. O Instituto de Defesa do Consumidor (Idec) solicitou ao governo a suspensão do Grok no país.

A ferramenta, que até então era disponibilizada gratuitamente, teve o acesso restrito recentemente a usuários pagantes pela rede social X. A empresa ressaltou que conteúdos ilegais são removidos do ambiente e contas envolvidas nessas ações são suspensas permanentemente, comparando o uso inadequado da IA às consequências do envio direto de conteúdos ilegais.

O Deepfake, tecnologia por trás das manipulações, não é nova, mas ganhou força dentro do X desde o mês passado, tornando-se uma tendência entre usuários brasileiros e de outras regiões.

No Reino Unido, a Ofcom informou que, em casos graves, pode solicitar ao tribunal medidas para restringir o acesso ao serviço, como bloqueio por provedores de internet ou suspensão do serviço de pagamentos. Essas ações fazem parte da legislação que proíbe criação e compartilhamento de imagens íntimas sem consentimento, especialmente envolvendo menores.

Até o momento, a rede social X não se posicionou oficialmente sobre a investigação da Ofcom. A resposta às polêmicas ainda está em desenvolvimento, diante da pressão internacional para que o Grok adote protocolos de segurança mais rigorosos.

O episódio destaca os desafios enfrentados no uso de inteligência artificial para geração de conteúdos, especialmente diante da rápida disseminação de deepfakes que podem violar direitos e expor vítimas a danos morais e legais.

—

Palavras-chave relacionadas:

Grok
Elon Musk
inteligência artificial
rede social X
deepfake
imagens falsas sexualizadas
proibição Grok
investigação Ofcom
direitos das crianças
direitos das mulheres
Brasil
Índia
Reino Unido
Indonésia
Malásia
proteção contra conteúdos ilegais

Fonte: g1.globo.com