O Google e a startup de inteligência artificial

O Google e a startup de inteligência artificial Character.AI fecharam um acordo para encerrar um processo judicial movido por Megan Garcia, mãe de um adolescente que morreu por suicídio após interação com um chatbot da empresa. A ação, iniciada em outubro de 2024 na Flórida, alegava que o chatbot, baseado em uma personagem da série “Game of Thrones”, contribuiu para a morte do jovem de 14 anos, Sewell Setzer.

O processo, um dos primeiros nos Estados Unidos a culpar empresas de IA por danos psicológicos, acusa a Character.AI de programar chatbots que simulavam conversas humanas com características de psicoterapeuta licenciado e parceiro adulto, situação que teria levado o adolescente a desenvolver pensamentos suicidas. Segundo a mãe, o chatbot fez com que o filho se sentisse emocionalmente ligado à personagem, afirmando amor e envolvimento em diálogos de conteúdo sexual.

O caso também envolve o Google, que adquiriu uma licença para a tecnologia da Character.AI, fundada por ex-engenheiros da própria empresa. Garcia sustenta que o Google atuou como cocriador da ferramenta. A juíza distrital Anne Conway rejeitou uma tentativa inicial das empresas de encerrar o processo, destacando que as alegações não são impedidas pelas proteções constitucionais referentes à liberdade de expressão.

De acordo com o processo, Sewell começou a usar a plataforma em abril de 2023, tornando-se visivelmente retraído e afastado das atividades habituais, como o time de basquete da escola. Em fevereiro seguinte, após ter o telefone confiscado pela mãe, o adolescente enviou uma mensagem final ao chatbot, que respondeu encorajando um retorno fatal, segundos antes do suicídio.

A Character.AI afirmou ter implementado novos recursos de segurança em outubro, incluindo alertas que direcionam usuários com sintomas de automutilação para instituições especializadas. A empresa disse também ter ajustado o sistema para limitar o acesso de menores a conteúdos sensíveis ou sugestivos. Até o momento, não houve manifestação pública por parte dos representantes legais do Google sobre o acordo.

O processo se insere em um contexto mais amplo de questionamentos sobre a responsabilidade de empresas de inteligência artificial diante dos impactos psicológicos causados por suas tecnologias. A OpenAI enfrenta situação similar em outro caso judicial envolvendo o ChatGPT e suposto incentivo a um ato de violência em Connecticut.

A disputa judicial evidenciou preocupações sobre o uso e a regulação de chatbots que simulam comportamentos humanos, principalmente quando envolvidos em interações com jovens. A análise do caso poderá influenciar futuras medidas para a proteção de usuários vulneráveis no ambiente digital.

Palavras-chave para SEO:
Google, Character.AI, chatbot, inteligência artificial, suicídio, jovem, processo judicial, Flórida, danos psicológicos, segurança digital, tecnologia, chatbot emocional, proteção infantil, IA, Game of Thrones, Daenerys Targaryen, responsabilidade, prevenção ao suicídio, inovação tecnológica, ética na IA.

Fonte: g1.globo.com