Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque. A declaração foi feita mais de dois meses após a tragédia, motivada pelo desejo de respeitar o luto da comunidade local.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa, depois abriu fogo em uma escola da cidade, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou ter banido a usuária do chatbot em junho do ano anterior, ao identificar conteúdos preocupantes por meio de seus sistemas de detecção de abuso.

A empresa não comunicou o caso à polícia na época, alegando que a atividade da conta não era grave o suficiente para justificar o encaminhamento. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman admitiu o erro e afirmou estar “profundamente arrependido”. Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados para monitorar conteúdos em tempo real e pode banir contas que violem suas regras, que incluem exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de ameaças graves, as plataformas são programadas para sinalizar comportamentos a revisores humanos e, eventualmente, repassar dados às autoridades.

Após o ataque, autoridades canadenses exigiram melhorias nos protocolos de segurança da empresa. A OpenAI afirmou que reforçará suas medidas e criou um canal direto de comunicação com a polícia. Em seu comunicado, Altman reforçou o compromisso da empresa em trabalhar com todos os níveis de governo para evitar novos episódios semelhantes.

A família de uma das vítimas entrou com uma ação judicial por negligência contra a OpenAI, alegando que a empresa tinha conhecimento dos planos da atiradora para realizar um “evento com mortes em massa” e não tomou medidas preventivas.

O caso reacende o debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos e na prevenção de atos violentos por meio de suas plataformas.

**Palavras-chave para SEO:** Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, ataque a tiros, tiroteio em massa, denúncia de violência, moderação de conteúdo, segurança em IA, responsabilidade tecnológica, ação judicial, Colúmbia Britânica, prevenção de tragédias.

Fonte: g1.globo.com