Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes relacionados à suspeita de um ataque que matou oito pessoas em fevereiro. A empresa havia banido a usuária do ChatGPT oito meses antes da tragédia, mas não acionou as autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de atacar uma escola secundária local em Tumbler Ridge, na Colúmbia Britânica, Canadá. Ela matou cinco estudantes, um professor e depois tirou a própria vida.

A OpenAI identificou a conta da suspeita por meio dos seus sistemas de detecção de abuso em junho, e a banimento foi realizado naquela época. Porém, a empresa não comunicou a polícia argumentando que a atividade detectada não apresentava gravidade suficiente para um alerta oficial.

Altman foi criticado pelo pedido de desculpas, considerado por David Eby, primeiro-ministro da Colúmbia Britânica, como “necessário, e ainda assim grosseiramente insuficiente”. Altman afirmou estar “profundamente arrependido” e explicou que retardou o comunicado para respeitar o período de luto da comunidade.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real. Contas podem ser suspensas por violar regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos de risco elevado, o sistema sinaliza para revisão humana e a empresa pode repassar informações às autoridades policiais.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI, que foi alertada sobre possíveis ações regulatórias caso não melhorasse suas medidas. A empresa afirmou que irá reforçar as práticas de segurança e criou um canal direto de contato com a polícia.

Altman declarou que a OpenAI está comprometida a colaborar com governos para evitar novas tragédias. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, disse em sua carta.

A família de uma menina gravemente ferida no atentado entrou com uma ação judicial alegando negligência da OpenAI. Eles afirmam que a empresa sabia que a atiradora planejava um “evento com mortes em massa” e não tomou medidas para impedir ou alertar as autoridades.

O episódio reacende o debate sobre a responsabilidade das empresas de tecnologia no monitoramento e no compartilhamento de informações sobre potenciais ameaças de violência geradas por usuários em plataformas digitais.

—

**Palavras-chave relacionadas para SEO:** Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, ataque em escola Canadá, denúncia de violência, moderação de conteúdo, responsabilidade das empresas de tecnologia, ação judicial OpenAI, segurança digital, prevenção de ataques em massa.

Fonte: g1.globo.com