Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes de um ataque que causou a morte de oito pessoas em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, na última sexta-feira (24).
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de atacar uma escola secundária local, onde matou cinco estudantes e um professor, e depois cometeu suicídio. A OpenAI identificou e baniu a conta da suspeita do ChatGPT oito meses antes do ataque, em junho, após detectar conteúdos de risco em seus diálogos.
Altman afirmou que a empresa não notificou as autoridades policiais na época porque considerou que a atividade da usuária não representava ameaça grave suficiente para um encaminhamento. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, disse o executivo.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais cobraram reforço na prevenção e monitoramento de possíveis ameaças que possam surgir em plataformas digitais.
A OpenAI explicou que utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem banir contas que violam regras contra exploração sexual, apoio à automutilação, suicídio e promoção de violência. Quando há indicativos claros de ameaça, informações são repassadas à polícia.
Após o ataque em Tumbler Ridge, a OpenAI criou um canal direto de comunicação com autoridades policiais e intensificou seus processos de segurança para tentar evitar que novos episódios semelhantes aconteçam. Altman reafirmou o compromisso da empresa em colaborar com diferentes níveis de governo para prevenir futuras tragédias.
Uma família de uma criança gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos de ataque da atiradora, mas não tomou medidas para impedir o ocorrido.
O episódio levou a questionamentos sobre o papel das empresas de tecnologia na detecção e prevenção de ameaças online. A OpenAI e outras plataformas enfrentam desafios para equilibrar a privacidade dos usuários e a segurança pública em seus sistemas automatizados.
A empresa declarou que continuará aprimorando seus sistemas de moderação e cooperação com as autoridades para reduzir riscos de violência em ambientes digitais. A tragédia em Tumbler Ridge ressaltou a necessidade de protocolos mais eficazes na análise de comportamentos suspeitos em plataformas de inteligência artificial.
—
Palavras-chave relacionadas:
OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, denúncias, segurança digital, ação judicial, prevenção de violência, tecnologias de IA, autoridades policiais.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
