Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque. A declaração veio após a revelação de que a conta da suspeita havia sido banida oito meses antes do incidente.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária e abrir fogo, causando a morte de cinco crianças e um professor, e tirando a própria vida. A OpenAI identificou sinais de comportamento abusivo na conta da suspeita em junho do ano anterior e a baniu, mas não comunicou as autoridades.
Altman afirmou estar “profundamente arrependido” por não ter informado a polícia na época e justificou a demora do pedido de desculpas como uma forma de respeitar o luto da comunidade local. Ele enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos no ChatGPT, com recursos para detectar e restringir contas que violem regras, como promoção de violência ou incentivo ao suicídio. Em casos de ameaças sérias, a empresa afirma analisar manualmente os comportamentos e colaborar com autoridades, quando apropriado.
Após o ataque, autoridades canadenses cobraram mudanças nas práticas de segurança da OpenAI, que prometeu reforçar seus sistemas e criou um canal direto de comunicação com a polícia local. Altman indicou que a empresa se compromete a cooperar com governos para evitar incidentes semelhantes no futuro.
Familiares de uma vítima do tiroteio entraram com ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado providências diante dos indícios de que a atiradora planejava um ataque com mortes em massa. O processo alega que a empresa tinha conhecimento do risco e falhou em agir para impedir a tragédia.
O caso chama atenção para o desafio das empresas de tecnologia em equilibrar moderação de conteúdo, privacidade dos usuários e responsabilidade diante de potenciais ameaças. A OpenAI segue avaliando suas políticas de segurança após o episódio em Tumbler Ridge, enfrentando pressão de autoridades e da sociedade.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque em escola, moderação de conteúdo, segurança digital, responsabilidade tecnológica, denúncia de violência, ação judicial, prevenção de ataques.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
