Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, cometeu um ataque envolvendo tiroteio em massa. A ação resultou na morte de oito pessoas, incluindo crianças e um professor.

No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a própria mãe e meio-irmão em casa antes de seguir para uma escola secundária local, onde matou outras seis pessoas e depois tirou a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após ser identificada pelos sistemas da OpenAI, mas a empresa não reportou a situação às autoridades naquele momento.

Altman afirmou que a ausência de comunicação com a polícia se deu porque a atividade da conta não foi considerada grave o suficiente para justificar o encaminhamento às autoridades. Ele declarou estar “profundamente arrependido” por não ter alertado previamente as forças de segurança e enviou uma carta de desculpas ao primeiro-ministro da província da Colúmbia Britânica, David Eby.

O governo local considerou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Um porta-voz ressaltou a importância de medidas mais rigorosas e respostas mais imediatas para evitar casos semelhantes no futuro.

A OpenAI explicou que utiliza sistemas automatizados para detectar conteúdos abusivos e violações às regras, como exploração sexual, automutilação, suicídio e promoção de violência. As contas que apresentam comportamento de risco podem ser restringidas ou banidas, e casos graves são avaliados por humanos para possível contato com as autoridades policiais.

Após o ataque, o governo canadense entrou em contato com a equipe de segurança da OpenAI e ameaçou aplicar sanções regulatórias caso a empresa não aprimorasse seus protocolos de segurança. Em resposta, a empresa anunciou a criação de um canal direto de comunicação com a polícia para facilitar o reporte de possíveis ameaças.

A carta de Altman também aponta o compromisso da OpenAI em colaborar com governos para que eventos desse tipo não se repitam. “Daqui para frente, nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, declarou.

Entre as consequências da tragédia, a família de uma menina que ficou gravemente ferida no tiroteio move uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a companhia tinha conhecimento dos planos da atiradora para um evento de “morte em massa” e não tomou medidas preventivas.

O caso reforça os desafios da regulação tecnológica no monitoramento de conteúdos que podem representar riscos à segurança pública. A discussão segue aberta sobre a responsabilidade das plataformas digitais na prevenção de violência.

—

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Canadá, Tumbler Ridge, violência, denúncia, moderação de conteúdo, segurança digital, ataque em escola, responsabilização, sistema automatizado, ação judicial.

Fonte: g1.globo.com