Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após um ataque em massa ocorrido em fevereiro, quando uma ex-usuária do ChatGPT matou oito pessoas. A empresa havia banido a suspeita oito meses antes, mas não comunicou a polícia sobre os conteúdos preocupantes detectados.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a própria mãe e o meio-irmão antes de abrir fogo em uma escola secundária local. No ataque, cinco crianças e um professor morreram, além da autora do crime, que se suicidou. A tragédia deixou ainda 25 feridos.

A OpenAI informou ter identificado a conta da suspeita em junho, utilizando seus sistemas de moderação automática, e a banido por violações das regras do ChatGPT. A empresa alegou que, na época, a atividade da usuária não foi considerada grave o suficiente para acionar as autoridades policiais.

Em uma carta divulgada em 24 de abril, Altman expressou “profundo arrependimento” por não ter comunicado o caso às forças de segurança. Ele afirmou que o pedido de desculpas era necessário para reconhecer o dano sofrido pela comunidade de Tumbler Ridge. Altman também justificou o atraso no pedido, afirmando ter desejado respeitar o período de luto da população local.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou as desculpas como “necessárias, mas grosseiramente insuficientes”. O governo canadense ainda convocou a equipe de segurança da OpenAI para discutir melhorias nos protocolos de detecção e comunicação.

Segundo a OpenAI, seus sistemas de moderação analisam conteúdos em tempo real e podem restringir ou banir contas que violem regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em situações de risco elevado, o sistema sinaliza para revisão humana e pode compartilhar informações com a polícia.

Após o ataque, a empresa reforçou o compromisso de trabalhar com governos para evitar novas tragédias, inclusive criando um canal direto de comunicação com as autoridades policiais. Sam Altman declarou que a OpenAI busca formas de impedir que incidentes semelhantes ocorram no futuro.

Familiares de uma menina gravemente ferida no ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não adotou medidas preventivas.

A tragédia em Tumbler Ridge reacende o debate sobre a responsabilidade das plataformas digitais na detecção de ameaças de violência e o papel das empresas de tecnologia na prevenção de crimes. A pressão sobre a OpenAI e outras organizações para aprimorarem suas políticas de moderação e cooperação com as autoridades deve aumentar nas próximas semanas.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio no Canadá, Tumbler Ridge, moderação de conteúdo, segurança digital, responsabilidade tecnológica, ação judicial, prevenção de violência, plataformas digitais.

Fonte: g1.globo.com