Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito mais de dois meses após a tragédia e reconhece a omissão da empresa em notificar as autoridades.
Em 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa antes de atacar uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, matando cinco crianças e um professor. Após o ataque, a atiradora tirou a própria vida. A mulher havia sido banida do ChatGPT oito meses antes do incidente por violação das diretrizes da plataforma.
A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior e a baniu por atividades abusivas, mas não comunicou a polícia canadense alegando que o conteúdo não justificava um alerta formal. Sam Altman declarou arrependimento pelo fato e ressaltou o compromisso da empresa em trabalhar para evitar eventos semelhantes no futuro.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como necessário, mas insuficiente. Autoridades canadenses exigiram que a OpenAI revisse suas políticas de segurança e estabeleceram um canal direto com a polícia para comunicação de ameaças futuras.
A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem restringir ou banir contas por violações que envolvem exploração sexual, apoio a automutilação, suicídio ou promoção de violência. Em casos considerados graves, as atividades suspeitas são encaminhadas para revisão humana e, se confirmadas, os dados podem ser compartilhados com as autoridades.
Familiares de uma menina gravemente ferida no ataque estão processando a OpenAI por negligência, alegando que a empresa teve conhecimento da intenção da atiradora de causar um “evento com mortes em massa” e não tomou medidas para impedir o crime.
Em resposta às críticas e à ação judicial, Altman garantiu que a OpenAI continuará colaborando com governos para aprimorar seus sistemas e prevenir futuras tragédias. O caso levantou discussões sobre o papel das plataformas de inteligência artificial na detecção e prevenção de ameaças à segurança pública.
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, pedido de desculpas, moderação de conteúdo, ataque a tiros, segurança digital, responsabilidade corporativa, ação judicial, prevenção de violência, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
