Um ataque hacker expôs uma operação que utiliza cerca de 200 perfis falsos gerados por inteligência artificial para promover produtos no TikTok, revelou reportagem do site 404 Media na quarta-feira (17). A empresa responsável, chamada Doublespeed, cria personagens virtuais para substituir influenciadores em campanhas publicitárias, operando centenas de celulares para simular usuários reais.
O hacker identificou uma brecha em 31 de outubro que permitiu o acesso a mais de 1.100 celulares controlados pela Doublespeed, além de detalhar os modelos dos smartphones, contas falsas no TikTok e os produtos promovidos. A reportagem teve acesso a 400 contas da empresa, das quais 200 divulgavam itens variados, entre aplicativos de idiomas, relacionamento, Bíblia, suplementos e massageadores.
A Doublespeed admite simular interações para aumentar a visibilidade dos assuntos escolhidos por seus clientes nas redes sociais. Para burlar as restrições das plataformas contra conteúdo artificial, a empresa opera fazendas de celulares que fazem parecer que as interações são reais. O site da companhia destaca a frase “Nunca pague por um ser humano de novo”, indicando a substituição de influenciadores humanos por perfis automatizados.
Segundo o 404 Media, vários perfis falsos publicavam postagens com múltiplas fotos geradas por IA acompanhadas de legendas promocionais, e um deles chegou a postar vídeos produzidos por inteligência artificial. As diretrizes do TikTok exigem que conteúdos criados ou alterados por IA sejam sinalizados pelos criadores, e a plataforma removeu os vídeos indicados pela reportagem.
A Doublespeed arrecadou US$ 1 milhão em financiamento com o fundo Andreessen Horowitz em outubro e pretende expandir suas operações para outras redes sociais, como Instagram, X (antigo Twitter) e Reddit. A empresa não informou se já toma providências para adequar suas práticas às políticas das plataformas.
A exposição da operação ocorre em meio a preocupações crescentes sobre a autenticidade de conteúdos nas redes sociais e o uso de inteligência artificial para influenciar o comportamento dos usuários. O caso levanta dúvidas sobre os desafios das plataformas em fiscalizar perfis automatizados que promovem produtos sem transparência sobre sua origem.
Com a divulgação dos dados, o TikTok e outras redes sociais terão que reforçar seus mecanismos de controle para impedir o uso irregular de perfis falsos e garantir que informações geradas por IA sejam claramente sinalizadas, conforme exigido em suas políticas.
Palavras-chave relacionadas: ataque hacker, perfis falsos, inteligência artificial, TikTok, Doublespeed, marketing digital, fazendas de cliques, contas falsas, redes sociais, Andreessen Horowitz.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
