O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge pela falha da empresa em alertar a polícia sobre conteúdos preocupantes gerados por uma ex-usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros que resultou na morte de oito pessoas. A declaração foi feita em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor. Após o ataque, ela tirou a própria vida. A OpenAI afirmou que identificou e baniu a conta da suspeita do ChatGPT em junho do ano anterior, oito meses antes da tragédia, por meio de seus sistemas automatizados de moderação.
Altman afirmou estar “profundamente arrependido” por a empresa não ter alertado as autoridades policiais naquele momento, apesar da detecção dos conteúdos preocupantes. Ele justificou o atraso no pedido de desculpas dizendo que quis respeitar o período de luto dos moradores da cidade. O primeiro-ministro David Eby respondeu que o pedido foi “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI explicou que seu sistema automatizado monitora em tempo real conteúdos que violem regras, como promoção de violência, apoio ao suicídio e exploração sexual. Em casos graves, o sistema sinaliza para revisão humana e pode encaminhar dados para a polícia. No entanto, a companhia alegou que a atividade da usuária banida não atingiu o nível necessário para uma denúncia formal.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram impor ações regulatórias caso melhorias não fossem implementadas. A empresa afirmou que reforçaria suas medidas de segurança e criaria um canal direto de comunicação com as forças policiais.
Na carta, Altman destacou o compromisso da OpenAI em trabalhar com governos para prevenir futuras tragédias. Ele afirmou que a empresa busca formas de aprimorar seus sistemas para identificar e agir contra ameaças reais de maneira mais eficaz.
Famílias das vítimas também entraram com processo judicial contra a OpenAI, acusando a empresa de negligência. O grupo alega que a companhia tinha conhecimento do planejamento da atiradora para um “evento com mortes em massa”, mas não tomou providências para impedir o ataque.
A investigação sobre as responsabilidades e a atuação da OpenAI no caso segue em andamento, enquanto a empresa tenta ajustar seus protocolos de monitoramento e resposta.
—
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, Colúmbia Britânica, polícia canadense, moderação de conteúdo, responsabilidade corporativa, segurança digital.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
