Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes relacionados a uma usuária do ChatGPT que cometeu um ataque em fevereiro. A mulher transgênero de 18 anos matou oito pessoas antes de tirar a própria vida em um tiroteio na cidade.
No dia 10 de fevereiro, a suspeita matou sua mãe e meio-irmão em casa e, depois, abriu fogo em uma escola secundária local, causando a morte de cinco estudantes e um professor. A OpenAI informou que identificou e baniu a conta da mulher em junho do ano anterior, oito meses antes do ataque.
Segundo Altman, a empresa não comunicou as autoridades na época porque o conteúdo analisado não parecia grave o suficiente para justificar um alerta policial. O ex-CEO declarou estar “profundamente arrependido” pela falha em reportar as informações às forças de segurança.
O primeiro-ministro da Colúmbia Britânica, David Eby, respondeu que o pedido de desculpas é “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso mudanças não fossem implementadas.
A OpenAI explicou que utiliza sistemas automatizados para monitorar conteúdos em tempo real no ChatGPT, que analisam e podem banir usuários por violações como exploração sexual, automutilação, suicídio e promoção de violência. Em casos de risco elevado, os sistemas sinalizam as situações para revisão humana e possível compartilhamento de dados com a polícia.
Após o incidente, a empresa afirmou que irá reforçar as medidas de segurança e criou um canal direto de comunicação com as autoridades policiais. Na carta enviada ao governo da Colúmbia Britânica, Altman afirmou que a empresa está comprometida em trabalhar com todos os níveis de governo para evitar que tragédias semelhantes ocorram no futuro.
Além disso, a família de uma menina ferida gravemente no ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não tomar providências mesmo ciente do planejamento do atentado pela atiradora.
O episódio levantou questões sobre a responsabilidade das plataformas digitais em monitorar e agir diante de ameaças de violência que envolvem seus usuários. Até o momento, a OpenAI segue avaliando suas políticas de segurança para impedir novos incidentes.
Palavras-chave relacionadas para SEO:
OpenAI, Sam Altman, tiroteio em Tumbler Ridge, ataque em massa Canadá, ChatGPT, segurança online, moderação de conteúdo, responsabilidade digital, denúncia de violência, ação judicial OpenAI
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
