China propõe regras para controle de inteligência artificial

O órgão regulador cibernético da China publicou neste sábado (26) um conjunto de propostas para regras que reforçam a supervisão de ferramentas de inteligência artificial (IA) que simulam personalidades humanas e interagem emocionalmente com os usuários. A iniciativa visa controlar a rápida expansão desses serviços no país, estabelecendo requisitos éticos e de segurança para o setor.

As regras se aplicam a produtos e serviços de IA disponíveis para o público chinês que reproduzem características como personalidade, padrões de pensamento e estilos de comunicação humanos. As interações ocorrem por meio de texto, áudio, imagens, vídeo ou outros formatos, buscando envolver os usuários em experiências emocionais.

A proposta exige que os provedores alertem os usuários sobre o risco de uso excessivo desses serviços e adotem medidas quando identificarem sinais de dependência. Eles terão de assumir a responsabilidade pela segurança ao longo de todo o ciclo de vida dos produtos, implementando sistemas para revisão dos algoritmos, proteção de dados e informações pessoais.

Além disso, a minuta aborda os riscos psicológicos relacionados ao uso dessas aplicações. As empresas deverão monitorar os estados emocionais dos usuários, avaliar seu nível de dependência e intervir quando forem detectados comportamentos viciantes ou emoções extremas. Essas medidas buscam minimizar os impactos negativos no bem-estar dos usuários.

As diretrizes também definem limitações quanto ao conteúdo gerado pelas ferramentas de IA, proibindo material que possa ameaçar a segurança nacional, disseminar desinformação, incentivar violência ou conter obscenidades. Essas restrições têm o objetivo de manter a integridade social e a ordem pública.

Com a consulta pública aberta, o governo chinês espera receber contribuições para aprimorar a regulamentação antes de sua implementação formal. O movimento acompanha uma tendência global de normatização da inteligência artificial voltada ao consumidor, buscando equilibrar inovação e proteção dos usuários.

Em resumo, a China busca estabelecer um marco legal para a IA que simula humanos, enfatizando a segurança, ética e responsabilidade no desenvolvimento e uso dessas tecnologias. A proposta reflete a preocupação do país em regular um setor em rápido crescimento e com implicações complexas para a sociedade.

Palavras-chave relacionadas: inteligência artificial, China, regulamentação, supervisão, IA emocional, segurança digital, proteção de dados, ética em IA, dependência tecnológica, conteúdo gerado por IA.

Fonte: g1.globo.com