Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT antes do ataque que matou oito pessoas em fevereiro. O pedido acontece após críticas das autoridades locais e uma ação judicial contra a empresa.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois atacou uma escola secundária, onde matou cinco alunos e um professor antes de tirar a própria vida. A atiradora havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano anterior, por violar as regras do serviço da OpenAI.
A empresa informou que não notificou a polícia na época porque a atividade da usuária não foi considerada grave o suficiente para justificar um alerta às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por não ter feito o contato policial.
O primeiro-ministro David Eby respondeu que o pedido de desculpas de Altman era “necessário, e ainda assim grosseiramente insuficiente”. Ele criticou a OpenAI por não tomar medidas mais firmes diante dos sinais de risco.
A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real e podem restringir ou banir contas que promovam violência, automutilação ou outros comportamentos inadequados. Em casos críticos, os dados são revisados por humanos e informações podem ser repassadas às autoridades quando há ameaça crível.
Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram responder com ações regulatórias caso as medidas não fossem reforçadas. A empresa afirmou que criou um canal direto de comunicação com a polícia e trabalha para aprimorar seus processos de segurança.
Altman justificou a demora no pedido de desculpas por respeito ao período de luto da comunidade afetada. Ele ressaltou o compromisso da empresa em colaborar com governos para evitar tragédias futuras e garantir que eventos como esse não se repitam.
A família de uma menina gravemente ferida no tiroteio lançou uma ação judicial contra a OpenAI, acusando a empresa de negligência. Segundo o processo, a OpenAI teria conhecimento dos planos da atiradora para um “evento com mortes em massa” e não teria adotado nenhuma medida para impedir a tragédia.
O incidente levantou debates sobre a responsabilidade das plataformas de inteligência artificial em monitorar e agir diante de conteúdos que possam representar riscos reais à segurança pública. A OpenAI promete revisar seus protocolos e ampliar a cooperação com autoridades para evitar novos casos.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, denúncia de violência, moderação de conteúdo, responsabilidade da inteligência artificial, segurança pública, ação judicial OpenAI.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
