Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter avisado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. O pedido de desculpas foi divulgado na sexta-feira (24) e reconhece o erro da empresa em não reportar os sinais que poderiam ter prevenido a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos cometeu um tiroteio que começou em sua casa, onde matou a mãe e o meio-irmão, e depois se dirigiu a uma escola secundária local, onde matou cinco alunos e um professor antes de tirar a própria vida. A OpenAI afirmou ter banido a usuária do ChatGPT oito meses antes, em junho, após identificar violações às políticas da plataforma. A empresa não encaminhou o caso à polícia por considerar a atividade da conta insuficiente para envolvimento das autoridades.

Altman afirmou estar “profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”. Ele justificou a demora no pedido oficial devido ao respeito pelo luto da comunidade atingida. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas que violem regras, incluindo promoção de violência. Esses sistemas podem sinalizar comportamentos de alto risco para revisão humana e, caso identifiquem uma ameaça crível, a empresa pode compartilhar dados com a polícia. Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso as medidas de segurança não fossem reforçadas.

Em resposta, a OpenAI afirmou que irá aprimorar suas políticas e criou um canal direto de comunicação com as autoridades policiais. Na carta, Altman ressaltou o compromisso da empresa em colaborar com governos para evitar que tragédias semelhantes aconteçam.

A família de uma menina que ficou gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI por negligência. O processo alega que a empresa sabia do plano da atiradora para um “evento com mortes em massa” e não adotou medidas preventivas.

O caso reacende o debate sobre a responsabilidade das empresas de tecnologia no monitoramento de conteúdos de risco e na colaboração com autoridades para prevenir atos violentos. A OpenAI afirma buscar constantemente melhorar seus sistemas para identificar e agir diante de ameaças reais, mas reconhece falhas no episódio ocorrido em Tumbler Ridge.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, responsabilidade tecnológica, violência online, ação judicial.

Fonte: g1.globo.com