O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. Altman reconheceu o erro em uma carta divulgada em 24 de abril, afirmando estar “profundamente arrependido” pela falta de comunicação com as autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola da região, onde matou cinco crianças e um professor. Em seguida, a suspeita tirou a própria vida. A OpenAI afirmou que havia banido a conta da jovem em junho do ano anterior, oito meses antes do episódio, após identificar conteúdos abusivos por meio dos seus sistemas automatizados.
A empresa justificou a ausência de denúncia à polícia alegando que as atividades detectadas não foram consideradas graves o suficiente para encaminhamento às autoridades. Altman informou que o pedido de desculpas foi feito apenas agora para respeitar o luto dos moradores de Tumbler Ridge, mas disse que a empresa está comprometida em evitar tragédias similares no futuro.
O primeiro-ministro da Colúmbia Britânica, David Eby, qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias caso as medidas de segurança não fossem aprimoradas.
A OpenAI afirmou que utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real. Contas podem ser restringidas ou banidas por violar regras contra exploração sexual, suicídio, automutilação e promoção de violência. Em casos graves, o sistema sinaliza riscos para revisão humana e pode compartilhar dados com a polícia.
Após o ocorrido, a empresa anunciou a criação de um canal direto de comunicação com a polícia e reforçou seus protocolos de segurança. Altman declarou que o foco da OpenAI será trabalhar com todas as esferas governamentais para evitar que eventos similares se repitam.
Uma família de uma criança gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Segundo o processo, a companhia teria conhecimento do plano da atiradora para um ataque em massa e não tomou medidas para impedir a tragédia.
O episódio evidencia os desafios de monitoramento e prevenção de crimes envolvendo tecnologias de inteligência artificial e levanta debates sobre a responsabilidade das empresas por usos maliciosos de suas ferramentas. A OpenAI enfrenta agora a pressão de implementar melhores sistemas de detecção e resposta para garantir a segurança dos usuários e das comunidades.
—
Palavras-chave relacionadas para SEO:
Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, ataque escolar, inteligência artificial, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ação judicial, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
