Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após um ataque a tiros realizado por uma ex-usuária do ChatGPT que matou oito pessoas em fevereiro. Ele reconheceu a falha da empresa por não ter alertado a polícia sobre conteúdos preocupantes da usuária antes da tragédia.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI informou que identificou a conta da suspeita em junho do ano anterior e a baniu do chatbot, mas não comunicou as autoridades, argumentando que a atividade não era grave o suficiente para acionar a polícia.
Altman declarou estar “profundamente arrependido” por não ter reportado o caso à polícia e explicou que o pedido de desculpas, feito mais de dois meses após o ataque, teve o objetivo de respeitar o período de luto da comunidade. O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.
Segundo a OpenAI, o ChatGPT utiliza sistemas automatizados que monitoram conteúdos em tempo real e podem banir contas que violem regras, incluindo promoção de violência, apoio à automutilação e exploração sexual. Em casos de potencial risco grave, as informações são revisadas por humanos e podem ser repassadas às autoridades.
Após o ataque em Tumbler Ridge, autoridades canadenses exigiram melhorias nas práticas de segurança da OpenAI, que anunciou reforço nos procedimentos e a criação de um canal direto para comunicação policial. Altman reforçou o compromisso da empresa em colaborar com diferentes níveis de governo para prevenir tragédias similares.
A família de uma das vítimas, uma menina que sofreu ferimentos graves no tiroteio, entrou com uma ação judicial por negligência contra a OpenAI. Os parentes alegam que a empresa teria conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas para impedir o ataque.
A situação levanta questionamentos sobre a responsabilidade das plataformas de inteligência artificial no monitoramento e comunicação de ameaças à segurança pública, além da necessidade de regulamentação mais rígida para evitar incidentes futuros.
Palavras-chave: OpenAI, Sam Altman, tiroteio Canadá, ChatGPT, segurança digital, responsabilidade civil, moderação de conteúdo, ataque em escola, fiscalização de IA.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
