Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT antes dela cometer um ataque que matou oito pessoas em fevereiro. A resposta da empresa ocorre após críticas das autoridades e a abertura de uma ação judicial contra a companhia por negligência.

Em 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa, depois foi até uma escola secundária local e abriu fogo, matando cinco estudantes e um professor antes de tirar a própria vida. A atiradora já havia sido banida do ChatGPT oito meses antes, em junho, por violar regras de uso do sistema.

A OpenAI afirmou que a conta da suspeita foi identificada por seus sistemas automáticos de moderação e banida por exibir conteúdos relacionados a violência e outros comportamentos abusivos. Porém, a empresa não comunicou a polícia na época porque considerou que as ações da usuária não eram graves o suficiente para um alerta oficial.

Sam Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, na qual disse estar “profundamente arrependido” pela decisão de não reportar o caso às autoridades policiais. Altman explicou que atrasou o pedido de desculpas para respeitar o período de luto da comunidade de Tumbler Ridge.

O primeiro-ministro canadense classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente” diante da tragédia. Autoridades locais convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso a empresa não aperfeiçoe seus mecanismos de prevenção.

A OpenAI detalhou que seus sistemas automáticos monitoram em tempo real conteúdos que violam as regras, incluindo promoção de violência, autoagressão e suicídio. Em casos de risco elevado, há uma etapa de revisão humana que pode levar ao compartilhamento de informações com órgãos policiais.

Após o ataque, a empresa reforçou o compromisso em ampliar suas medidas de segurança e estabelecer um canal direto com a polícia para facilitar a comunicação em situações de ameaça. Altman ressaltou que a organização trabalha com autoridades federais, estaduais e municipais para evitar novos incidentes.

A família de uma menina gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI, alegando que a empresa tinha conhecimento do planejamento de um “evento com mortes em massa” e não adotou providências para impedir a tragédia.

O caso reabre o debate sobre o papel das plataformas digitais na prevenção de crimes com motivações violentas, além de destacar os limites dos sistemas automatizados de moderação diante de ameaças reais.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, pedido de desculpas, ataque a tiros, moderação de conteúdo, segurança digital, ação judicial, prevenção de crimes, tecnologia e segurança.

Fonte: g1.globo.com