Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter informado a polícia sobre conteúdos preocupantes detectados na conta de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. A manifestação ocorreu mais de dois meses após o incidente e reflete o arrependimento da empresa pela falta de comunicação com as autoridades.

Em 10 de fevereiro, uma jovem transgênero de 18 anos assassinou a mãe e o meio-irmão em casa antes de ir a uma escola local e abrir fogo contra alunos e um professor. No total, seis pessoas foram mortas na escola, além das duas vítimas domésticas, e a atiradora cometeu suicídio em seguida.

A OpenAI identificou a conta da suspeita em junho do ano anterior, ao detectar atividades que violavam as regras do ChatGPT. A usuária foi banida da plataforma oito meses antes do ataque, mas a empresa não comunicou o caso à polícia. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman assumiu a responsabilidade pela decisão.

Altman afirmou que a decisão de não informar as autoridades foi tomada porque a atividade da usuária não parecia grave o suficiente para justificar uma denúncia. Ele explicou que o pedido de desculpas só foi feito agora para respeitar o período de luto da comunidade afetada. O primeiro-ministro David Eby considerou o pedido necessário, mas o avaliou como insuficiente.

A OpenAI utiliza sistemas automatizados de moderação para monitorar conteúdos no ChatGPT em tempo real. Contas podem ser suspensas ou banidas por violar regras relacionadas a exploração sexual, incentivo à automutilação, suicídio, violência e outros danos. Em situações de risco elevado, o sistema sinaliza para revisão humana e pode encaminhar dados relevantes às autoridades.

Após o tiroteio, autoridades canadenses convocaram representantes da OpenAI, ameaçando ações regulatórias caso a empresa não aprimorasse seus protocolos de segurança. Em resposta, a OpenAI anunciou o reforço desses mecanismos e a criação de um canal direto de comunicação com a polícia local.

Na carta, Altman declarou compromisso em trabalhar com governos para evitar novas tragédias e reconheceu o impacto irreversível causado à comunidade de Tumbler Ridge. A empresa afirmou que seguirá aprimorando seus sistemas para melhorar a detecção e o tratamento de ameaças.

Paralelamente, a família de uma menina gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI por negligência. Eles afirmam que a empresa tinha conhecimento do risco de um “evento com mortes em massa” e não tomou medidas adequadas para impedir o incidente.

O caso levanta questionamentos sobre a responsabilidade de empresas de tecnologia na prevenção de crimes violentos relacionados ao uso de seus sistemas. A OpenAI se posiciona na busca por equilíbrio entre privacidade, moderação e cooperação com autoridades para proteger comunidades.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, violência online, responsabilidade empresarial, ação judicial, tecnologia e segurança, comunicação com autoridades.

Fonte: g1.globo.com