Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A empresa identificou e baniu a usuária oito meses antes do crime, mas não comunicou as autoridades.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, atirou contra cinco alunos e um professor em uma escola local antes de tirar a própria vida. Após o incidente, a OpenAI revelou ter banido a conta da suspeita em junho do ano anterior por violação das regras de uso da plataforma.
Sam Altman afirmou que a empresa não comunicou a polícia porque, na época, o sistema de moderação da OpenAI considerou a atividade da usuária insuficientemente grave para um aviso oficial. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” por não ter informado as autoridades.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, reafirmando a responsabilidade da empresa. Ele solicitou mudanças nas práticas de segurança da OpenAI para prevenir futuros incidentes.
A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem banir usuários por violações como exploração sexual, promoção de violência ou incentivo ao suicídio. Nos casos em que é identificada ameaça séria, informações podem ser compartilhadas com as autoridades policiais para investigação.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso as medidas de prevenção não fossem aprimoradas. A empresa anunciou a criação de um canal direto de comunicação com a polícia e ações para reforçar seus protocolos de segurança.
A família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a OpenAI tinha conhecimento dos planos da suspeita para um ataque com mortes em massa, mas não tomou nenhuma providência adequada.
Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar que casos como esse se repitam. Ele justificou o atraso no pedido de desculpas, dizendo que a empresa quis respeitar o período de luto da comunidade de Tumbler Ridge.
A tragédia reabre o debate sobre a responsabilidade das empresas de tecnologia em monitorar e reportar ameaças realizadas por meio de suas plataformas. O caso destaca os desafios envolvendo moderação automática, privacidade e segurança pública.
Palavras-chave relacionadas:
Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, ação judicial, violência em plataformas digitais
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
