Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge depois que uma ex-usuária do ChatGPT cometeu um ataque que resultou na morte de oito pessoas em fevereiro. O pedido foi feito mais de dois meses após a tragédia, em carta enviada ao governo local.
A atiradora, uma mulher transgênero de 18 anos, matou a mãe e o meio-irmão em casa no dia 10 de fevereiro, depois atirou em uma escola secundária da cidade e tirou a própria vida. O ataque deixou também 25 feridos, incluindo crianças e um professor.
A OpenAI afirmou ter banido a usuária do ChatGPT oito meses antes do ataque, em junho, após detectar conteúdos preocupantes em sua conta. A empresa decidiu não reportar a situação à polícia, alegando que o conteúdo não era grave o suficiente para justificar um alerta formal às autoridades.
Sam Altman declarou estar “profundamente arrependido” por não ter informado a polícia na época e reconheceu o impacto da tragédia para a comunidade de Tumbler Ridge. Ele justificou a demora no pedido de desculpas para respeitar o período de luto dos moradores.
O primeiro-ministro da Colúmbia Britânica, David Eby, avaliou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, ressaltando que é preciso mais responsabilidade por parte da empresa.
A OpenAI utiliza sistemas automáticos de moderação que analisam o conteúdo em tempo real. Esses sistemas podem restringir ou banir contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos mais graves, as ações podem ser repassadas para revisão humana, que avalia o risco e determina se deve haver compartilhamento de informações com a polícia.
Após o ataque, autoridades canadenses contataram a equipe de segurança da OpenAI e ameaçaram aplicar medidas regulatórias caso a empresa não implementasse mudanças. Em resposta, a empresa informou que intensificará suas medidas de segurança e criou um canal direto de comunicação com a polícia local.
Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar que eventos similares voltem a acontecer. “Nosso foco continuará sendo colaborar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, disse ele.
Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Na ação, eles afirmam que a empresa sabia dos planos da atiradora para cometer mortes em massa, mas não tomou as medidas necessárias.
A tragédia reacendeu o debate sobre a responsabilidade das plataformas de inteligência artificial no monitoramento de riscos e na comunicação com as autoridades.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, combate à violência, moderação de conteúdo, inteligência artificial, segurança digital, responsabilidade corporativa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
