Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes vinculados a uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro e matou oito pessoas. A manifestação de arrependimento foi feita em 24 de abril, após críticas das autoridades locais.

Em fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola secundária de Tumbler Ridge, provocando a morte de cinco crianças e um professor antes de tirar a própria vida. A conta da suspeita foi banida do ChatGPT oito meses antes pela OpenAI, que identificou atividades suspeitas pela sua tecnologia de moderação.

A empresa informou que não comunicou o caso às autoridades na época porque as ações da usuária não foram consideradas graves o suficiente para justificar um alerta policial. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falha em notificar a polícia.

David Eby respondeu que o pedido de desculpas, embora necessário, é “grosseiramente insuficiente”. Autoridades canadenses solicitaram melhorias imediatas no sistema de segurança da OpenAI, ameaçando ações regulatórias caso as mudanças não fossem implementadas.

A OpenAI afirmou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem banir ou restringir usuários por violações de regras. Em situações graves, o sistema sinaliza comportamentos de alto risco para revisão humana e pode encaminhar informações às autoridades respectivas.

Desde o ataque, a empresa reforçou suas medidas de segurança e criou um canal de comunicação direto com a polícia canadense para facilitar alertas futuros. Altman declarou que a OpenAI está comprometida em colaborar com governos para evitar tragédias semelhantes.

Familiares de uma menina que ficou gravemente ferida no ataque entraram com ação judicial contra a OpenAI, alegando negligência da empresa. Eles afirmam que a empresa tinha conhecimento do plano de “evento com mortes em massa” da atiradora, mas não tomou as providências necessárias.

O caso levanta debates sobre a responsabilidade das plataformas de inteligência artificial em monitorar e denunciar conteúdos de alto risco. A OpenAI reforça o uso de tecnologia em conjunto com avaliação humana, buscando equilíbrio entre privacidade e segurança pública.

A tragédia em Tumbler Ridge evidenciou limitações dos sistemas automatizados atuais e levou a um maior escrutínio sobre o papel da inteligência artificial na prevenção de crimes. O episódio tem influência direta em políticas de moderação e regulação de plataformas digitais em diversos países.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, inteligência artificial, ação judicial, responsabilidade corporativa.

Fonte: g1.globo.com