O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter avisado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um tiroteio em massa em fevereiro. O ataque resultou na morte de oito pessoas, incluindo cinco crianças, um professor, a vítima em casa, e a própria atiradora.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, atacou uma escola secundária local. Ela matou outras sete pessoas antes de tirar a própria vida. A OpenAI afirmou ter identificado e banido a usuária do ChatGPT oito meses antes da tragédia, em junho do ano anterior.
A empresa argumentou que não comunicou as autoridades naquele momento porque a atividade na plataforma não era grave o suficiente para justificar o reporte policial. Em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por não ter alertado a polícia e reconheceu a perda da comunidade de Tumbler Ridge.
David Eby respondeu que o pedido de desculpas era “necessário, e ainda assim grosseiramente insuficiente”. Ele ressaltou a importância de ações concretas para evitar novos incidentes. Altman justificou a demora no pedido por respeito ao luto da população e reforçou o compromisso da OpenAI em prevenir tragédias semelhantes.
A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real para identificar violações das regras, como exploração sexual, promoção de violência, automutilação e suicídio. Em casos de risco elevado, comportamentos suspeitos são revisados por humanos e podem ser reportados às autoridades. Após o tiroteio, a empresa informou que ampliaria suas medidas de segurança e criaria um canal de comunicação direta com a polícia.
Autoridades canadenses convocaram a equipe de segurança da OpenAI e advertiram que poderiam aplicar sanções regulatórias se medidas não fossem adotadas. A empresa prometeu colaborar com todos os níveis de governo para evitar novos episódios de violência.
Familiares de uma menina gravemente ferida no ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para causar uma “morte em massa” e não tomou providências adequadas.
O caso levanta questões sobre a responsabilidade das empresas de tecnologia no monitoramento e denúncia de comportamentos violentos em suas plataformas.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, pedido de desculpas, denúncia de violência, segurança digital, responsabilidade tecnológica, violência escolar, ações judiciais.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
