O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma ex-usuária do ChatGPT que cometeu um tiroteio em massa em fevereiro, resultando na morte de oito pessoas. O pedido ocorreu após pressão das autoridades locais e críticas sobre a falha da empresa em comunicar sinais de alerta detectados meses antes da tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária, onde atirou em cinco crianças e um professor. Após o ataque, a suspeita tirou a própria vida.

Segundo a OpenAI, a conta da atiradora foi identificada e banida do ChatGPT em junho do ano anterior, oito meses antes do incidente, devido a violações das regras de uso da plataforma. Apesar disso, a empresa não comunicou as autoridades policiais, alegando que a atividade detectada na conta não apresentava gravidade suficiente para justificar um aviso formal.

Sam Altman afirmou estar “profundamente arrependido” por não ter informado a polícia sobre os conteúdos e enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Altman explicou que o atraso no comunicado teve o objetivo de respeitar o luto da comunidade local.

A OpenAI usa sistemas automatizados de moderação que monitoram conteúdos em tempo real para restringir ou banir contas que violam suas políticas. Entre as violações estão exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos considerados graves, as atividades suspeitas são encaminhadas para análise humana, podendo levar à comunicação das autoridades.

Após o ataque em Tumbler Ridge, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar sanções regulatórias caso medidas não fossem adotadas para melhorar o monitoramento e a cooperação com a polícia. A empresa afirmou que vai reforçar seus protocolos de segurança e estabeleceu um canal direto para contato com as autoridades.

Sam Altman declarou que a OpenAI está comprometida em trabalhar com todos os níveis de governo para impedir que eventos similares aconteçam no futuro. A empresa busca aprimorar seus sistemas de detecção e a comunicação com as forças de segurança.

Familiares de uma criança gravemente ferida no ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento, por meio das interações da suspeita com o ChatGPT, do planejamento de um “evento com mortes em massa” e não tomou medidas preventivas.

O caso levanta questões sobre o papel das empresas de tecnologia na identificação e prevenção de ameaças anunciadas em suas plataformas digitais, além do equilíbrio entre privacidade, moderação e segurança pública.

—

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, policiamento digital, moderação de conteúdo, segurança online, negligência tecnológica, ação judicial, violência escolar.

Fonte: g1.globo.com