Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O caso ocorreu em 10 de fevereiro e envolveu uma jovem de 18 anos que atacou a própria família e uma escola local antes de tirar a própria vida.

A mulher matou sua mãe e meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária, onde matou cinco crianças e um professor. A OpenAI afirma ter identificado a conta da suspeita em junho do ano anterior e banido o perfil do ChatGPT, mas não comunicou as autoridades canadenses naquele momento. A empresa alegou que a atividade observada não foi considerada grave o suficiente para justificar o encaminhamento à polícia.

Em carta endereçada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Sam Altman afirmou estar “profundamente arrependido” pela falha na comunicação com as autoridades. Altman justificou o atraso no pedido de desculpas, explicando que queria respeitar o luto da comunidade local. O primeiro-ministro classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que utiliza sistemas automatizados para moderação de conteúdo que analisam as interações em tempo real. Contas podem ser suspensas ou banidas por violações relacionadas a exploração sexual, apoio ao suicídio, automutilação e promoção de violência. O sistema também é projetado para sinalizar casos de alto risco, que passam para análise humana e podem levar à notificação das autoridades policiais.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e alertaram sobre possíveis ações regulatórias se medidas não fossem adotadas. Em resposta, a empresa afirmou que vai reforçar as políticas de segurança e criar um canal direto de comunicação com a polícia canadense para prevenção de incidentes semelhantes.

Altman também declarou que a OpenAI está empenhada em colaborar com todos os níveis de governo para evitar futuras tragédias relacionadas ao uso da tecnologia da empresa.

A família de uma das vítimas feridas no ataque entrou com ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer um “evento com mortes em massa” e “não adotou nenhuma medida” para impedir o ataque.

O episódio levanta questões sobre o papel das plataformas digitais e a responsabilidade na detecção e comunicação de conteúdos que possam indicar riscos reais à segurança pública, especialmente em casos envolvendo violência em massa.

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, polícia, denúncia de violência, moderação de conteúdo, ataque a tiros Canadá, responsabilidade tecnológica, segurança digital.

Fonte: g1.globo.com