Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros e matou oito pessoas. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
A mulher transgênero, de 18 anos, matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco estudantes e um professor, e depois tirou a própria vida. A conta dela havia sido banida do ChatGPT oito meses antes do ataque. A OpenAI afirmou que não acionou as autoridades na época por considerar que a atividade da usuária não era grave o suficiente para um encaminhamento policial.
Sam Altman declarou estar “profundamente arrependido” por não ter informado a polícia sobre os conteúdos gerados pela suspeita, reconhecendo a perda irreversível da comunidade. Ele justificou o atraso no pedido de desculpas ressaltando que quis respeitar o período de luto da população de Tumbler Ridge.
O primeiro-ministro David Eby afirmou que o pedido de desculpas é “necessário, e ainda assim grosseiramente insuficiente”, criticando a postura da empresa diante da tragédia. A família de uma menina gravemente ferida no tiroteio processa a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora e não tomou medidas para evitar o ataque.
A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem restringir ou banir contas por violações às regras, que incluem promoção de violência, apoio ao suicídio e exploração sexual. Em situações de risco elevado, alertas são enviados para revisão humana e, quando identificadas ameaças credíveis, dados podem ser compartilhados com autoridades.
Após o ataque, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e notificaram a possibilidade de medidas regulatórias caso as práticas não fossem aprimoradas. A empresa informou que vai reforçar seus mecanismos de segurança e estabeleceu um canal de comunicação direta com a polícia.
Na carta, Altman afirmou que a OpenAI está empenhada em colaborar com governos para evitar novos incidentes e que o foco seguirá na prevenção dessas tragédias. A empresa busca formas de melhorar seus sistemas para identificar e reportar comportamentos potencialmente perigosos de forma mais eficaz.
A tragédia reacendeu debates sobre o papel de plataformas de inteligência artificial na prevenção de crimes e sobre a responsabilidade das empresas em monitorar e atuar diante de conteúdos suspeitos produzidos por seus usuários. O caso também levou a questionamentos sobre o equilíbrio entre privacidade e segurança em ambientes digitais.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, defesa da polícia, segurança digital, moderação de conteúdo, inteligência artificial, tragédia no Canadá, processo judicial, prevenção de violência, responsabilidade corporativa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
