Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque armado em fevereiro, resultando na morte de oito pessoas. O pedido foi feito mais de dois meses após o ocorrido, motivado pelo desejo de respeitar o luto da comunidade.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, posteriormente, atirou em uma escola local, matando cinco crianças, um professor e tirando a própria vida. A OpenAI declarou que havia identificado e banido a usuária do ChatGPT em junho do ano anterior, oito meses antes da tragédia, devido a violações nas regras da plataforma.

Altman afirmou que a empresa não notificou a polícia na época porque a atividade da conta não foi considerada grave o suficiente para justificar o encaminhamento às autoridades. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela falha. Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real e podem restringir ou banir usuários que violam normas contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos com ameaças críveis, o sistema sinaliza para revisão humana e pode compartilhar informações com a polícia.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso não houvesse melhorias. A empresa afirmou que intensificaria suas medidas de segurança e criou um canal direto de comunicação com a polícia local.

Altman ressaltou que a OpenAI está comprometida em colaborar com governos para evitar futuras tragédias e garantir maior segurança no uso da tecnologia. Enquanto isso, a família de uma menina gravemente ferida no tiroteio abriu processo judicial contra a empresa, alegando negligência e falha em prevenir o ataque.

O caso evidencia os desafios enfrentados por empresas de inteligência artificial na moderação de conteúdos sensíveis e demonstra a pressão regulatória crescente sobre esses agentes tecnológicos para que adotem medidas preventivas mais eficazes.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, ataque armado Canadá, moderação de conteúdo, segurança em IA, responsabilidades tecnológicas, denúncia de violência, processo judicial OpenAI.

Fonte: g1.globo.com