Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A resposta da empresa veio após críticas sobre a falta de comunicação com as autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local, onde matou cinco estudantes e um professor, e depois tirou a própria vida. A OpenAI afirmou ter banido a usuária ainda em junho do ano anterior, aproximadamente oito meses antes da tragédia, após identificar comportamento abusivo em sua conta.
A empresa explicou que não reportou a conta à polícia porque, na avaliação interna, a atividade não era grave o suficiente para justificar o contato com as autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman declarou estar “profundamente arrependido” pela falha em comunicar o caso às forças policiais.
David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. A carta de Altman foi divulgada mais de dois meses após o ataque, com o CEO alegando que o adiamento teve a intenção de respeitar o período de luto da comunidade de Tumbler Ridge.
A OpenAI explicou que seus sistemas automatizados de moderação analisam em tempo real conteúdos suspeitos e podem banir contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos considerados graves, o sistema sinaliza comportamentos de alto risco para revisão humana e, se confirmada a ameaça, a empresa pode compartilhar informações com as autoridades.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando responder com ações regulatórias caso não fossem adotadas mudanças. A empresa informou que reforçará suas medidas de segurança e que estabeleceu um canal de comunicação direto com a polícia local.
Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar novas tragédias. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse o executivo.
Familiares de uma menina que ficou gravemente ferida no ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas preventivas.
O episódio reacende o debate sobre o papel das empresas de tecnologia na detecção e prevenção de crimes cometidos por usuários de suas plataformas, e sobre os limites e responsabilidades de sistemas automatizados na segurança pública.
Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade corporativa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
