Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um tiroteio em massa em fevereiro. A ocorrência resultou na morte de oito pessoas, incluindo crianças e um professor.

Em fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária, onde matou cinco alunos e um professor. Após o ataque, ela tirou a própria vida. A OpenAI identificou a conta da suspeita e a baniu em junho do ano anterior, após suspeitas detectadas por seus sistemas automatizados de moderação.

Sam Altman afirmou estar “profundamente arrependido” por não ter reportado a conta às autoridades policiais no momento do banimento. Ele justificou a demora no pedido de desculpas, enviado ao primeiro-ministro da Colúmbia Britânica, David Eby, afirmando que queria respeitar o luto da comunidade local. Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que suas ferramentas automatizadas analisam conteúdos em tempo real e que apenas em casos graves a empresa compartilha informações com a polícia. No caso da usuária, a empresa entendeu que a atividade não justificava um encaminhamento policial na época. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias.

Em resposta, a OpenAI anunciou reforço nas medidas de segurança e a criação de um canal direto com a polícia. Altman afirmou que a empresa está comprometida em trabalhar com todos os níveis de governo para evitar tragédias semelhantes no futuro.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas preventivas.

O caso destaca os desafios enfrentados por empresas de tecnologia referentes à moderação de conteúdos e a responsabilidade em casos onde conteúdos suspeitos podem anteceder crimes graves, como ataques violentos. A discussão sobre como equilibrar privacidade, segurança e prevenção de riscos continua em pauta nos setores público e privado.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, polícia, violência, ação judicial, responsabilidade das empresas de tecnologia.

Fonte: g1.globo.com