Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque com múltiplas mortes em fevereiro deste ano.
A mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, deixando oito pessoas mortas – cinco crianças e um professor –, e, em seguida, tirou a própria vida. A tragédia ocorreu em 10 de fevereiro na Colúmbia Britânica, Canadá.
A OpenAI identificou a conta da suspeita em seus sistemas de detecção de abuso e a baniu do ChatGPT em junho do ano anterior, oito meses antes do ataque. A empresa não comunicou as autoridades porque julgou que os conteúdos avaliados não apresentavam gravidade suficiente para justificar um alerta policial.
Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada no dia 24 de abril, Altman afirmou estar “profundamente arrependido” pela falta de notificação às autoridades. Ele explicou que o pedido de desculpas foi feito após um período de respeitar o luto dos moradores de Tumbler Ridge.
David Eby comentou que o pedido de desculpas foi “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade do ocorrido e a necessidade de respostas mais efetivas por parte da OpenAI.
A empresa utiliza sistemas automatizados que analisam conteúdos em tempo real para detectar violações das regras, como promoção de violência, apoio à automutilação e demais comportamentos de alto risco. Em situações consideradas graves, o sistema sinaliza para revisão humana, que pode levar à comunicação com as autoridades.
Após o ataque, a OpenAI foi convocada pelas autoridades canadenses, que ameaçaram adotar medidas regulatórias caso a empresa não reforçasse suas políticas de segurança. A companhia afirmou que implementaria mudanças e inaugurou um canal direto para comunicação com a polícia local.
Em sua carta, Altman destacou o compromisso da OpenAI em trabalhar com governos para evitar que eventos semelhantes voltem a ocorrer, destacando que o foco será a prevenção de tragédias futuras.
Familiares de uma criança gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas para impedir a tragédia.
A situação levanta dúvidas sobre o uso de inteligência artificial na identificação e prevenção de ameaças de violência, além de evidenciar desafios na comunicação entre empresas de tecnologia e autoridades policiais.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, segurança digital, prevenção de violência, Colúmbia Britânica, inteligência artificial, denúncia de ameaças, regulamentação de IA.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
