Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi feito mais de dois meses após a tragédia e divulgado nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola local, onde cinco crianças e um professor morreram antes dela tirar a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após o sistema de moderação automatizado da OpenAI detectar conteúdos relacionados a riscos.

A OpenAI informou que não comunicou as autoridades canadenses na época porque a atividade da usuária não parecia grave o suficiente para justificar um alerta oficial. Na carta enviada ao primeiro‑ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falha. Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A empresa explicou que utiliza sistemas automáticos para monitorar e restringir conteúdos que violam suas políticas, incluindo violência, suicídio e automutilação. Nos casos de comportamentos de alto risco, as contas podem ser sinalizadas para revisão humana e, se confirmada uma ameaça, as informações podem ser repassadas às autoridades policiais.

Após o tiroteio, as autoridades canadenses convocaram a OpenAI para esclarecer os procedimentos de segurança e alertaram sobre possíveis medidas regulatórias. A empresa afirmou que fortalecerá suas ações de monitoramento e criou um canal direto de comunicação com a polícia local.

A OpenAI também disse que seguirá trabalhando junto a diferentes níveis de governo para evitar que incidentes semelhantes aconteçam no futuro. Altman afirmou que o objetivo é garantir que tragédias como a de Tumbler Ridge não se repitam.

Paralelamente, a família de uma criança gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento do planejamento do ataque, mas não adotou medidas para impedir o crime.

O caso reforça debates sobre a responsabilidade de empresas de tecnologia na prevenção de crimes associados ao uso de suas plataformas. A investigação sobre falhas no sistema de moderação e comunicação com as autoridades continua em andamento.

—

Palavras-chave relacionadas:
Sam Altman, OpenAI, Tumbler Ridge, tiroteio, ChatGPT, moderação de conteúdo, ataque em escola, polícia, negligência, segurança digital, violência online, ação judicial, Colúmbia Britânica, tecnologia e segurança, direitos civis.

Fonte: g1.globo.com