Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que matou oito pessoas em um ataque em fevereiro. A empresa banira a conta da suspeita oito meses antes, mas não acionou as autoridades.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária de Tumbler Ridge, na Colúmbia Britânica, deixando cinco crianças e um professor mortos. A atiradora tirou a própria vida após o ataque.
A OpenAI identificou a conta da suspeita em seus sistemas de moderação automática e proibiu seu acesso ao ChatGPT em junho do ano anterior. A empresa não informou a polícia porque não considerou a atividade grave o bastante para notificar as autoridades.
Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, manifestando “profundo arrependimento” por não ter comunicado o caso às forças policiais. Ele afirmou que o pedido de desculpas foi feito apenas mais de dois meses após a tragédia para respeitar o luto da comunidade.
O premiê David Eby qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente” diante da gravidade do caso. Autoridades locais ameaçaram ações regulatórias contra a OpenAI, exigindo reforço nos procedimentos de segurança.
Segundo a empresa, o ChatGPT utiliza sistemas automatizados para detectar violações das regras, que incluem incentivo à violência, suicídio e exploração sexual. Em situações de alto risco, o conteúdo é revisado por humanos e pode ser compartilhado com a polícia.
Após o ataque, a OpenAI afirmou que implementará medidas adicionais e criou um canal de comunicação direto com as autoridades policiais para evitar incidentes futuros. Altman ressaltou o compromisso da empresa em colaborar com diferentes níveis governamentais para impedir repetição de tragédias.
A família de uma vítima que ficou gravemente ferida entrou com ação judicial por negligência contra a OpenAI, acusando a empresa de ter conhecimento de um plano para “evento com mortes em massa” e não ter tomado providências. O processo destaca a pressão crescente sobre empresas de tecnologia para controlar conteúdos com potencial violento.
O episódio reacendeu debate sobre a responsabilidade das plataformas digitais em monitorar e reportar comportamentos perigosos. Especialistas apontam a necessidade de equilíbrio entre privacidade, segurança e intervenção oportuna. A OpenAI segue sob escrutínio enquanto ajusta seus protocolos de segurança.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, moderação de conteúdo, responsabilidade das plataformas digitais, Colúmbia Britânica, segurança digital, denúncia de violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
