Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes usados por uma ex-usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola local, deixando cinco crianças e um professor mortos antes de tirar a própria vida. A suspeita foi banida do ChatGPT em junho do ano anterior, após a empresa detectar violação das regras, mas não houve comunicação às autoridades.
Altman afirmou que a OpenAI usou sistemas automatizados para identificar a conta da usuária e que a decisão de não reportar à polícia foi baseada na avaliação de que o conteúdo não justificava um encaminhamento oficial. Ele reconheceu o erro e declarou estar “profundamente arrependido” por não ter informado as autoridades policiais na época.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais e familiares das vítimas acusam a OpenAI de negligência devido à falta de medidas que poderiam ter evitado a tragédia.
A OpenAI explicou que seus sistemas de moderação analisam conteúdos em tempo real e podem restringir ou banir contas que promovam violência ou outros comportamentos perigosos. Para casos graves, as mensagens são revisadas por humanos e podem ser compartilhadas com a polícia se a ameaça for credível.
Após o ataque, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou adotar medidas regulatórias caso as práticas não fossem aprimoradas. A empresa anunciou que reforçará seus protocolos e estabeleceu um canal direto de comunicação com as autoridades policiais.
Na carta, Altman disse que a OpenAI está empenhada em trabalhar com governos para evitar que incidentes semelhantes se repitam no futuro. Ele justificou o atraso no pedido de desculpas para respeitar o luto da comunidade afetada.
Familiares de uma criança gravemente ferida no ataque entraram com um processo contra a OpenAI, alegando que a empresa sabia dos planos da atiradora para um evento com mortes em massa, mas não tomou providências adequadas.
O caso reacende o debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos e sua interação com autoridades em situações de risco iminente.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, tiroteio, moderação de conteúdo, violência, Colúmbia Britânica, segurança digital, responsabilização, tecnologia e segurança pública.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
