Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que realizou um ataque a tiros em fevereiro, matando oito pessoas. A empresa identificou e baniu a conta da suspeita oito meses antes, mas não comunicou as autoridades na época.

Em fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor, antes de tirar a própria vida. A OpenAI confirmou que a conta da suspeita foi suspensa em junho do ano anterior por violações das regras de uso da plataforma.

Sam Altman afirmou estar “profundamente arrependido” por não ter enviado um alerta à polícia sobre a conta banida. Ele disse que o pedido de desculpas foi feito após respeitar o período de luto da comunidade afetada. O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real. Contas podem ser suspensas por diversas violações, incluindo promoção de violência. Em casos graves, as informações podem ser compartilhadas com as autoridades. A empresa afirmou que não notificou a polícia porque a atividade detectada não foi considerada grave o suficiente para justificar o encaminhamento.

Após o ataque, autoridades canadenses pressionaram a OpenAI a reforçar suas medidas de segurança e estabeleceram um canal de comunicação direto com a polícia local. A empresa garantiu que pretende colaborar com governos para evitar novas tragédias.

A família de uma vítima ferida no tiroteio entrou com um processo judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a OpenAI tinha conhecimento de planos da atacante para cometer um “evento com mortes em massa”, mas não tomou medidas para impedir o ataque.

A situação expõe o desafio das plataformas digitais em monitorar e agir diante de conteúdos potencialmente perigosos, equilibrando segurança e privacidade. A OpenAI prometeu aprimorar seus sistemas de detecção e a cooperação com autoridades para tentar reduzir riscos futuros.

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio, Canadá, Tumbler Ridge, moderação de conteúdo, polícia, segurança digital, ataque em escola, responsabilidade, ação judicial, violência online.

Fonte: g1.globo.com