Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não alertar a polícia após identificar conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque em fevereiro, que resultou em oito mortes. A declaração foi feita em uma carta divulgada nesta sexta-feira (24).

No ataque ocorrido em 10 de fevereiro, uma jovem de 18 anos matou sua mãe e meio-irmão em casa e, em seguida, matou cinco crianças e um professor em uma escola secundária antes de tirar a própria vida. A autora do crime havia sido banida do ChatGPT oito meses antes, em junho do ano anterior, após sistemas automáticos da OpenAI detectarem abusos em sua conta.

A OpenAI declarou que não comunicou o caso à polícia canadense na época porque a atividade na plataforma não parecia grave o suficiente para justificar um alerta às autoridades. Altman afirmou estar “profundamente arrependido” por essa decisão e reconheceu o dano causado à comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou que a resposta da empresa deve incluir mudanças efetivas para evitar novos incidentes.

A empresa informou que usa sistemas automatizados para monitorar conteúdos em tempo real e pode restringir ou banir contas que violem suas políticas, que incluem proibições contra exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos graves, os relatos são revisados por humanos e, quando necessário, compartilhados com autoridades.

Após o ataque, autoridades canadenses se reuniram com a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso não houvesse melhorias. A empresa declarou que reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia.

Na carta, Altman afirmou que a OpenAI se compromete a trabalhar com todos os níveis de governo para evitar tragédias similares. Enquanto isso, a família de uma menina que ficou gravemente ferida no ataque entrou com uma ação judicial por negligência contra a empresa, alegando que a OpenAI tinha conhecimento do plano da atiradora para cometer um “evento com mortes em massa” e não tomou providências.

A tragédia reacende o debate sobre a responsabilidade das plataformas digitais na detecção e prevenção de ameaças violentas, além dos limites das políticas de moderação automatizada.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque escolar, moderação de conteúdo, segurança digital, alerta policial, responsabilização, ação judicial.

Fonte: g1.globo.com