Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não alertar a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, cometeu um ataque que resultou em oito mortes. O pedido foi feito em carta divulgada em 24 de abril, mais de dois meses após a tragédia, em resposta a críticas sobre a atuação da empresa.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, e depois atirou contra alunos e um professor em uma escola local, antes de tirar a própria vida. O ataque deixou cinco crianças e um professor entre as vítimas fatais.
A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior, oito meses antes do ataque, por meio de seus sistemas de detecção de abuso, e ter banido a usuária do ChatGPT. Na época, a empresa não comunicou a polícia canadense, alegando que os conteúdos não apresentavam risco grave que justificasse uma denúncia.
Altman declarou estar “profundamente arrependido” por não ter acionado as autoridades após o banimento da conta. Ele explicou que aguardou para manifestar o pedido de desculpas para respeitar o período de luto da comunidade de Tumbler Ridge.
O primeiro-ministro da Colúmbia Britânica, David Eby, qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade do caso e a responsabilidade da empresa.
Após o incidente, autoridades canadenses requisitaram esclarecimentos à equipe de segurança da OpenAI e ameaçaram impor medidas regulatórias caso não haja melhorias nas práticas de monitoramento e comunicação. A empresa comprometeu-se a reforçar suas medidas de segurança e a estabelecer um canal direto de contato com a polícia local.
Segundo a OpenAI, seus sistemas automatizados de moderação analisam conteúdos em tempo real, restringindo ou banindo contas que violem regras, como incitação à automutilação, suicídio, exploração sexual ou promoção de violência. Em situações graves, alertas podem ser revisados por humanos e, quando há ameaça credível, dados podem ser compartilhados com autoridades.
A família de uma menina que ficou gravemente ferida no ataque entrou com ação judicial contra a OpenAI por suposta negligência. Eles afirmam que a empresa tinha conhecimento do planejamento da atiradora para um evento com múltiplas mortes, mas não tomou medidas para impedir o crime.
Sam Altman destacou na carta que a OpenAI pretende colaborar com governos para evitar que episódios semelhantes ocorram no futuro, comprometendo-se a buscar melhorias nos sistemas de detecção e na comunicação com autoridades.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança online, moderação de conteúdo, ação judicial, violência digital.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
