Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque com tiroteio em massa em fevereiro. A ex-usuária matou oito pessoas antes de tirar a própria vida, motivando o pedido público de Altman, divulgado em 24 de abril.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em cinco crianças e um professor em uma escola secundária local. Após o ataque, a OpenAI informou que havia banido a conta da suspeita em junho do ano anterior, quando identificou violações das regras da plataforma.

A empresa afirmou que não comunicou as autoridades no momento do banimento porque as atividades detectadas não foram consideradas graves o suficiente para justificar o repasse às forças policiais. Altman disse estar “profundamente arrependido” por essa decisão e afirmou que um pedido de desculpas é necessário para reconhecer a perda irreversível sofrida pela comunidade.

O primeiro-ministro da Colúmbia Britânica, David Eby, respondeu ao pedido chamando-o de “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais também convocaram a equipe de segurança da OpenAI e advertiram sobre possíveis medidas regulatórias caso não fossem implementadas mudanças.

A OpenAI informou que seus sistemas automatizados monitoram conteúdos em tempo real, podendo restringir ou banir contas que violem regras relacionadas à exploração sexual, automutilação, suicídio e promoção de violência. Em casos de ameaça grave, o sistema sinaliza para revisão humana e pode compartilhar informações com a polícia.

Após o incidente, a empresa reforçou que pretende aprimorar suas medidas de segurança, incluindo a criação de um canal direto de comunicação com autoridades policiais. Altman destacou o compromisso de colaborar com diferentes níveis de governo para evitar novas tragédias.

Familiares de uma menina ferida no atentado entraram com ação judicial por negligência contra a OpenAI. Segundo o processo, a empresa teria conhecimento do planejamento do ataque, mas não adotou medidas para impedir o ocorrido.

O caso acende o debate sobre a responsabilidade das plataformas digitais no monitoramento e prevenção de conteúdos potencialmente perigosos. A OpenAI enfrenta agora desafios jurídicos e a pressão para aprimorar seus mecanismos de controle e alerta às autoridades.

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque no Canadá, segurança digital, moderação de conteúdo, responsabilidade da plataforma, ação judicial.

Fonte: g1.globo.com