Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária que cometeu um ataque fatal em fevereiro. O tiroteio, ocorrido em uma escola e na residência da suspeita, resultou na morte de oito pessoas e na própria atiradora.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária da região e atirou contra estudantes e um professor. Cinco crianças e um docente morreram no local, além da própria autora do crime, que atentou contra a própria vida.
A OpenAI identificou a conta da suspeita por meio dos seus sistemas automáticos de detecção de abuso e baniu a usuária do ChatGPT em junho do ano anterior, oito meses antes do ataque. A empresa informou à época que não notificou a polícia canadense porque a atividade considerada suspeita não parecia grave o suficiente para justificar intervenção das autoridades.
Sam Altman, em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, manifestou “profundo arrependimento” por não ter informado as autoridades policiais sobre a conta banida. Ele afirmou que o pedido de desculpas era necessário para reconhecer o impacto grave sofrido pela comunidade local.
O primeiro-ministro David Eby qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, indicando que as medidas tomadas pela OpenAI foram inadequadas diante da tragédia. As autoridades canadenses também convocaram a equipe de segurança da empresa e ameaçaram aplicar ações regulatórias caso não houvesse melhorias nos procedimentos.
A OpenAI explica que usa sistemas automatizados de moderação para analisar conteúdos em tempo real e restringir ou banir contas que violem regras, como promoção de violência, suicídio ou exploração sexual. Em situações consideradas de alto risco, o sistema sinaliza para revisão humana e pode encaminhar informações relevantes para a polícia.
Após o ataque em Tumbler Ridge, a empresa criou um canal de comunicação direto com as autoridades locais e prometeu reforçar a segurança. Altman destacou o compromisso da OpenAI em trabalhar com governos para evitar incidentes semelhantes no futuro.
A família de uma menina que ficou gravemente ferida no tiroteio entrou com ação judicial contra a OpenAI por negligência. Segundo os advogados, a empresa teria conhecimento de que a suspeita planejava um “evento com mortes em massa” e não tomou medidas para impedir o ataque.
O caso levanta debates sobre o papel das tecnologias de inteligência artificial na prevenção de crimes e a responsabilidade das empresas em monitorar conteúdos perigosos em suas plataformas.
—
**Palavras-chave:** OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, denúncia de violência, moderação automática, ataque no Canadá, responsabilidade tecnológica, ação judicial
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
