Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge depois que uma ex-usuária do ChatGPT provocou a morte de oito pessoas em um ataque em fevereiro. O pedido ocorre após críticas ao fato de a empresa não ter alertado a polícia sobre conteúdos preocupantes da suspeita.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo numa escola secundária local, onde matou cinco alunos e um professor, e depois tirou a própria vida. A OpenAI afirmou que identificou e baniu a usuária já em junho do ano anterior, oito meses antes da tragédia, após detectar atividades suspeitas em sua conta.
A empresa explicou que não comunicou as autoridades na época porque não considerou a atividade grave o suficiente para justificar um alerta policial. Sam Altman declarou estar “profundamente arrependido” por não ter informado a polícia e disse em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que o pedido de desculpas visa reconhecer o “dano e a perda irreversível” sofridos pela comunidade.
Altman também justificou o atraso no pedido, afirmando que quis respeitar o período de luto dos moradores de Tumbler Ridge. O primeiro-ministro David Eby qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente.”
A OpenAI usa sistemas automatizados que monitoram conteúdos em tempo real para identificar e restringir contas que violam suas políticas, incluindo exploração sexual, automutilação, suicídio e promoção de violência. Em situações graves, os casos são avaliados por revisores humanos e, se houver ameaças credíveis, informações podem ser compartilhadas com a polícia.
Após o ataque, autoridades canadenses cobraram da OpenAI mudanças nas políticas de segurança e criaram um canal direto de comunicação entre a empresa e a polícia. A liderança da OpenAI afirmou estar comprometida a trabalhar com governos para evitar futuras tragédias similares.
Familiares de uma das vítimas feridas no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não adotou medidas para impedir o ataque.
A tragédia em Tumbler Ridge evidencia os desafios das empresas de tecnologia na moderação de conteúdos violentos e o papel da inteligência artificial na prevenção de crimes. A OpenAI enfrenta pressão por aprimorar seus protocolos de segurança e transparência na gestão de dados suspeitos para evitar novos incidentes.
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque em escola, segurança digital, moderação de conteúdo, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
