Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. A empresa identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não notificou as autoridades sobre o risco representado.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária local, onde matou cinco estudantes e um professor, e em seguida cometeu suicídio. Após o ataque, a OpenAI informou que havia banido a conta da usuária em junho, após identificar violações das regras de uso.
Sam Altman afirmou que a empresa não acionou as autoridades na época porque não considerou a atividade grave o suficiente para justificar um comunicado à polícia. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman disse estar “profundamente arrependido” pela falha e reconheceu a dor causada à comunidade.
O primeiro-ministro David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. As autoridades canadenses demandaram que a OpenAI melhorasse seus processos de segurança, com a empresa anunciando planos para reforçar o monitoramento e estabelecer um canal direto de comunicação com a polícia.
A OpenAI utiliza sistemas automatizados para monitorar conteúdos em tempo real, restringindo ou banindo contas que violem suas regras, como exploração sexual, incentivo ao suicídio e promoção de violência. Em casos de risco elevado, os sistemas sinalizam para revisão humana e, se identificadas ameaças críveis, dados podem ser compartilhados com a polícia.
Após o ataque, a família de uma das vítimas feridas entrou com uma ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento dos planos da atiradora para um evento violento, mas não agiu para impedir.
Sam Altman justificou o atraso no pedido de desculpas público, afirmando que queria respeitar o luto da comunidade de Tumbler Ridge. Ele afirmou que a OpenAI está comprometida a trabalhar com governos para evitar futuras tragédias semelhantes.
A situação reforça o debate sobre a responsabilidade das empresas de tecnologia em monitorar e comunicar conteúdos de risco gerados por suas plataformas, especialmente em casos que envolvam ameaças à segurança pública.
—
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, responsabilidade de empresas de tecnologia, moderação de conteúdo, segurança digital, ação judicial, violência online, monitoramento de riscos.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
