Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela falha da empresa em alertar a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi divulgado mais de dois meses após a tragédia, em carta encaminhada ao primeiro-ministro da Colúmbia Britânica, David Eby.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola local, causando a morte de cinco crianças e um professor, e depois tirando a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho, por violar as regras da plataforma.
A OpenAI afirmou que não comunicou a polícia na época do banimento porque a atividade da usuária não foi considerada grave o suficiente para justificar a notificação às autoridades. Em sua carta, Altman declarou estar “profundamente arrependido” pela decisão de não reportar o caso e ressaltou a intenção de respeitar o luto da comunidade antes de se manifestar publicamente.
O primeiro-ministro David Eby qualificou a desculpa como “necessária, e ainda assim grosseiramente insuficiente”, criticando a empresa por não ter tomado medidas mais efetivas para impedir o ataque. A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem banir contas por violações relacionadas a exploração sexual, apoio à automutilação, suicídio e promoção de violência.
Em situações consideradas de alto risco, esses sistemas acionam revisão humana, podendo levar à comunicação dos dados às autoridades policiais. Após o ataque, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou adotar medidas regulatórias caso as práticas de controle não fossem aprimoradas.
A empresa informou que implementará reforços nas suas políticas de segurança e estabeleceu um canal direto de comunicação com a polícia para facilitar a troca de informações em casos emergenciais. Altman afirmou também que a OpenAI está comprometida em colaborar com governos para evitar a repetição de tragédias.
Familiares de uma menina gravemente ferida no tiroteio entraram com ação judicial contra a OpenAI, alegando negligência da empresa ao não adotar medidas mesmo sabendo que a suspeita planejava um “evento com mortes em massa”.
O episódio reforça o debate sobre a responsabilidade das empresas de tecnologia no monitoramento e controle do uso de suas plataformas para evitar que conteúdos perigosos resultem em violência na vida real. A investigação sobre o caso permanece aberta e deve orientar futuras políticas de segurança digital.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, pedido de desculpas, Tumbler Ridge, ataque a tiros, ChatGPT, Colúmbia Britânica, segurança digital, moderação de conteúdo, ação judicial, vigilância de plataformas, violência em massa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
