A plataforma X, de Elon Musk, anunciou nesta quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens de pessoas reais com roupas reveladoras, após críticas globais por gerar imagens falsas com conteúdo sexualizado, inclusive envolvendo menores de idade.
Nos últimos dias, usuários têm utilizado o Grok para criar imagens manipuladas, que retratam mulheres e crianças de forma sexualizada. Em resposta, a equipe de segurança do X afirmou que implementou tecnologias para bloquear edições desse tipo.
Elon Musk se pronunciou sobre a controvérsia garantindo não ter conhecimento de imagens ilegais produzidas pela plataforma. Ele afirmou que o Grok somente responde a solicitações dos usuários, recusando comandos que envolvam conteúdos proibidos segundo as leis vigentes.
Musk também comentou que ataques de usuários podem ter explorado brechas no prompt do chatbot, gerando resultados inesperados. O bilionário garantiu que todas as falhas são corrigidas imediatamente assim que identificadas.
O pronunciamento de Musk ocorreu após o primeiro-ministro do Reino Unido, Keir Starmer, informar que a X está adotando medidas para garantir conformidade com a lei britânica. O órgão regulador de mídia do país já iniciou uma investigação sobre o caso.
No início de janeiro, o Grok reconheceu falhas nos mecanismos de proteção que permitiram a criação e divulgação de imagens sexualizadas de menores de idade, publicadas na plataforma semanas antes. A empresa afirmou estar trabalhando para melhorar esses sistemas e evitar novas ocorrências.
Um caso relatado pelo g1 mostrou uma brasileira vítima de manipulação em uma foto de biquíni, vítima que relatou ter um sentimento negativo após descobrir a existência da imagem adulterada. Esse tipo de manipulação, conhecido como deepfake, tem ganhado espaço no X como uma tendência recente.
Após a polêmica, o Grok passou a ignorar comandos que solicitavam alterar imagens para exibir pessoas de biquíni ou nuas. No entanto, relatos e exemplos encontrados mostram que a ferramenta, em alguns casos, ainda produz imagens impróprias.
A repercussão global levou a ações contra o Grok em diferentes países. O Reino Unido investiga o chatbot, a Índia requisitou mais medidas de proteção na plataforma, e Indonésia e Malásia proibiram o uso do Grok em seus territórios.
No Brasil, o Instituto de Defesa do Consumidor (Idec) solicitou ao governo federal a suspensão da ferramenta no país. Além disso, uma coalizão de grupos feministas, organizações de fiscalização tecnológica e ativistas divulgou cartas abertas pedindo a Google e Apple que removam o X e o Grok de suas lojas de aplicativos.
A coalizão, que inclui grupos como UltraViolet, Organização Nacional para as Mulheres (NOW), MoveOn e ParentsTogether Action, afirmou que plataformas como Google e Apple estariam facilitando abusos sexuais utilizando o chatbot.
A xAI, empresa responsável pela tecnologia do Grok, respondeu às acusações classificando as críticas como “mentiras da mídia tradicional”. Google e Apple não emitiram resposta oficial às solicitações da agência Reuters.
O caso evidencia os desafios enfrentados por plataformas digitais e empresas de inteligência artificial no combate à criação e disseminação de conteúdos manipulados que violam direitos individuais e legais. As medidas adotadas pelo X buscam limitar o uso da tecnologia para fins ilegais e proteger pessoas contra abusos.
A discussão continua em várias frentes, envolvendo governos, entidades civil e setor tecnológico, sobre qual é o limite ético e legal para o uso da inteligência artificial na edição de imagens e na geração de conteúdo.
—
Palavras-chave SEO: Grok, inteligência artificial, edição de imagens, deepfake, plataforma X, Elon Musk, manipulação de imagens, conteúdo sexualizado, menores de idade, polêmica, segurança digital, direitos das crianças, investigação, censura digital, proteção de dados.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
