Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes publicados por uma usuária do ChatGPT, que cometeu um ataque em fevereiro, resultando na morte de oito pessoas. A empresa identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não informou as autoridades na época.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou que, em junho, identificou a usuária através de seus sistemas de detecção de abuso e bloqueou seu acesso ao ChatGPT.

Apesar da detecção e do banimento, a empresa não notificou a polícia canadense porque considerou que a atividade não era grave o suficiente para justificar um encaminhamento às autoridades. Altman reconheceu o erro e afirmou estar “profundamente arrependido” por não ter tomado medidas mais rígidas na ocasião.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a gravidade do ocorrido e cobrou ações efetivas para evitar que casos semelhantes se repitam.

Após o ataque, a OpenAI implementou medidas adicionais, incluindo a criação de um canal direto de comunicação com a polícia local. A empresa ressaltou que usa sistemas automatizados para moderação de conteúdo, que restringem ou banem contas que violam regras relacionadas a exploração sexual, autoagressão, suicídio e promoção de violência.

Esses sistemas também sinalizam comportamentos de alto risco para revisão humana, e em casos de ameaça crível, dados relevantes podem ser compartilhados com as autoridades. Autoridades canadenses cobraram melhorias na segurança e ameaçaram ações regulatórias caso não houvesse mudanças.

Altman explicou que demorou mais de dois meses para se manifestar publicamente para respeitar o luto dos moradores de Tumbler Ridge. Na carta enviada ao primeiro-ministro, afirmou que a OpenAI está comprometida em trabalhar com todos os níveis de governo para evitar futuras tragédias.

Familiares de uma das vítimas feridas gravemente no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não adotou medidas preventivas.

O caso destaca os desafios enfrentados por empresas de tecnologia na moderação de conteúdos e na comunicação com autoridades sobre potenciais ameaças. A OpenAI reforça o compromisso de aprimorar seus mecanismos de segurança e colaboração com órgãos públicos.

—

Palavras-chave relacionadas para SEO:
OpenAI, Sam Altman, ChatGPT, ataque em Tumbler Ridge, tiroteio em escola, moderação de conteúdo, segurança digital, denúncia de violência, responsabilidade social, tecnologia e segurança, ação judicial OpenAI, prevenção de tragédias, comunicação com autoridades, inteligência artificial.

Fonte: g1.globo.com