Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. A empresa banira a conta da suspeita oito meses antes do incidente, mas não comunicou as autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola local, matando cinco crianças e um professor, antes de tirar a própria vida. A OpenAI identificou a conta da suspeita através de seu sistema de detecção de abuso e a excluiu em junho do ano anterior.

Segundo Altman, a empresa não informou a polícia na época porque a atividade da usuária não teria sido grave o suficiente para justificar o encaminhamento. Na carta pública, o CEO afirmou estar “profundamente arrependido” por não ter alertado as autoridades e ressaltou o reconhecimento das perdas irreversíveis da comunidade.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele e outras autoridades canadenses passaram a cobrar da OpenAI melhorias nos protocolos de segurança.

A OpenAI usa sistemas automatizados que monitoram conteúdos em tempo real, podendo banir contas que violem regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos de risco alto, o sistema sinaliza para revisão humana e pode compartilhar informações com a polícia.

Após o ataque, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou aplicar ações regulatórias caso a empresa não reforçasse suas medidas. Altman afirmou que a empresa criou um canal direto de comunicação com as autoridades e está comprometida em trabalhar com governos para evitar novas tragédias.

Paralelamente, a família de uma menina ferida no ataque entrou com processo por negligência contra a OpenAI, alegando que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não agiu preventivamente.

O caso levanta discussões sobre a responsabilidade das empresas de tecnologia no monitoramento e comunicação de comportamentos de risco detectados em suas plataformas. A OpenAI informou que pretende aprimorar seus sistemas para prevenir que situações similares voltem a ocorrer.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, polícia canadense, segurança digital, responsabilidade tecnológica, moderação de conteúdo, ataque em escola.

Fonte: g1.globo.com