Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT, que cometeu um ataque em massa em fevereiro, resultando na morte de oito pessoas. O pedido foi divulgado três meses após o incidente, ocorrido na Colúmbia Britânica, onde uma jovem de 18 anos matou familiares e atirou em uma escola antes de tirar a própria vida.
No dia 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa, e depois abriu fogo em uma escola local, matando cinco crianças e um professor. A atiradora foi banida do ChatGPT oito meses antes do ataque, em junho, após o sistema detectar atividades consideradas abusivas. A OpenAI informou que não comunicou as autoridades na época, pois avaliou que o conteúdo não apresentava gravidade suficiente para notificação policial.
Sam Altman afirmou em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, estar “profundamente arrependido” por não ter alertado a polícia sobre a usuária. Altman justificou o atraso no pedido de desculpas para respeitar o luto da comunidade local. O primeiro-ministro considerou a desculpa “necessária, e ainda assim grosseiramente insuficiente”.
A OpenAI utiliza sistemas automáticos de moderação que analisam os conteúdos em tempo real e que podem restringir ou banir contas que violem regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos de riscos graves, o sistema sinaliza o comportamento para revisão humana e pode encaminhar dados às autoridades, conforme explicou a empresa após o ataque.
Após o incidente, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar medidas regulatórias caso as práticas de segurança não fossem reforçadas. A empresa respondeu que vai intensificar suas ações de segurança e criou um canal de comunicação direta com a polícia local.
A carta de Altman destacou o compromisso da OpenAI em colaborar com governos para evitar que tragédias como essa se repitam. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse ele.
No âmbito judicial, a família de uma menina gravemente ferida no tiroteio entrou com uma ação contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para um “evento com mortes em massa”, mas não tomou nenhuma ação preventiva.
O caso levanta questões sobre a responsabilidade das empresas de tecnologia na identificação e denúncia de ameaças de violência, bem como sobre os limites de monitoração nas plataformas de inteligência artificial.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque em escola, moderação de conteúdo, denúncia de violência, segurança em IA, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
