O Grok, inteligência artificial da rede social X

O Grok, inteligência artificial da rede social X, de Elon Musk, passou a restringir a edição de imagens aos assinantes pagantes após casos de uso indevido envolvendo fotos íntimas falsas de mulheres e crianças. A mudança foi implementada depois que o X foi inundado por imagens manipuladas que simulavam nudez ou roupas íntimas.

Buscas feitas pela reportagem do g1 na plataforma mostram que usuários solicitavam alterações em fotos de mulheres reais. Em resposta, o Grok passou a informar que a geração e edição de imagens estão limitadas a assinantes, indicando a necessidade de assinatura por meio de um link.

O X afirmou que está analisando a situação e que fornecerá mais informações assim que possível. Essa alteração ocorre em meio a denúncias recentes sobre o uso da ferramenta para criar imagens falsas. No dia 8 de junho, o g1 mostrou o caso de uma brasileira que teve suas fotos usadas para gerar imagens manipuladas.

Antes disso, a jornalista Julie Yukari denunciou à polícia, em 2 de junho, que suas fotos foram modificadas pela mesma ferramenta para produzir imagens falsas. A prática tem sido alvo de questionamentos sobre ética e privacidade, especialmente por envolver crianças e mulheres em situações vulneráveis.

Com a limitação, a ferramenta busca controlar o uso inadequado da IA para evitar a disseminação de imagens falsas que podem prejudicar a imagem e a privacidade das pessoas. Ainda não há detalhamento público sobre os próximos passos do X para regulamentar o uso da IA Grok.

A rede social permanece sob vigilância enquanto investiga medidas para impedir novas ocorrências de manipulação de imagens por meio da inteligência artificial. A reportagem seguirá atualizando o caso à medida que mais informações forem divulgadas.

—

Palavras-chave relacionadas: Grok, inteligência artificial, X, Elon Musk, edição de imagens, manipulação de fotos, fotos falsas, privacidade, mulheres, crianças, imagens íntimas, denúncia, redes sociais, segurança digital.

Fonte: g1.globo.com