Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre mensagens preocupantes de uma usuária do ChatGPT, responsável por um ataque que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após a tragédia, motivado pelo desejo de respeitar o período de luto da comunidade.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundaria local, onde matou cinco crianças e um professor. Após o ataque, ela cometeu suicídio.

A OpenAI afirmou que a usuária foi banida do ChatGPT em junho do ano anterior, oito meses antes da tragédia, após seus conteúdos serem identificados pelos sistemas de detecção de abuso da empresa. A empresa não comunicou as autoridades canadenses na ocasião, justificando que as mensagens não apresentavam gravidade suficiente para acionar a polícia.

Altman afirmou que o pedido de desculpas era necessário para reconhecer o dano causado à comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a desculpa como “necessária, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados que analisam conteúdos em tempo real para detectar violações das regras do ChatGPT. Contas podem ser restringidas ou banidas por promover violência, apoio ao suicídio, exploração sexual, entre outros comportamentos. Em casos graves, o sistema sinaliza comportamentos de alto risco para revisão humana, com possibilidade de compartilhamento de dados com autoridades policiais.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando medidas regulatórias caso melhorias não fossem adotadas. A empresa informou que pretende reforçar suas medidas de segurança e criou um canal direto de comunicação com a polícia.

Altman ressaltou o compromisso da OpenAI em colaborar com governos para evitar tragédias semelhantes no futuro. Uma família da cidade, com uma menina gravemente ferida no ataque, entrou com ação judicial contra a empresa, alegando negligência em não tomar medidas diante da ameaça identificada.

O caso levanta debates sobre a responsabilidade das plataformas digitais na moderação de conteúdos que possam indicar riscos reais, bem como sobre o papel do setor tecnológico na prevenção de violência.

—

**Palavras-chave relacionadas para SEO:**

OpenAI, Sam Altman, ChatGPT, tiroteio em Tumbler Ridge, ataque em escola no Canadá, moderação de conteúdo, pedido de desculpas, segurança digital, denúncia de violência, ação judicial contra OpenAI, prevenção de violência online

Fonte: g1.globo.com