Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia a respeito de conteúdos preocupantes associados a uma usuária do ChatGPT, que cometeu um tiroteio em massa em fevereiro. A ação da empresa ocorreu após a suspeita ter sido banida da plataforma oito meses antes da tragédia.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor, e depois tirou a própria vida. A polícia local contabilizou um total de dez mortos e 25 feridos no ataque.
A OpenAI identificou a conta da suspeita por meio de seus sistemas automatizados de detecção de abuso e suspendeu o acesso da usuária em junho do ano anterior. A empresa informou que, na época, não houve comunicação às autoridades policiais porque a atividade não era considerada grave o suficiente para um encaminhamento formal.
Em carta dirigida ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman manifestou arrependimento pela falta de aviso às autoridades e classificou o pedido de desculpas como um reconhecimento do impacto sofrido pela comunidade. Ele explicou que o atraso na manifestação de pesar visou respeitar o período de luto dos moradores de Tumbler Ridge.
O governo provincial considerou o pedido importante, mas insuficiente para a dimensão da tragédia. Autoridades canadenses convocaram a equipe de segurança da OpenAI e indicaram possíveis ações regulatórias caso não fossem adotadas medidas mais rigorosas. A empresa comprometeu-se a reforçar os mecanismos de segurança e implementou um canal de comunicação direta com a polícia local para incidentes futuros.
A OpenAI declarou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, podendo restringir ou banir contas que violem regras sobre exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em situações de risco elevado, o sistema sinaliza a atividade para revisão humana e pode compartilhar informações com autoridades policiais.
Família de uma menina gravemente ferida no tiroteio ajuizou uma ação judicial contra a OpenAI. Alega-se negligência na omissão de informações que poderiam ter prevenido o ataque, afirmando que a empresa tinha conhecimento dos planos para um “evento com mortes em massa” mas não tomou providências.
Sam Altman finalizou a carta destacando o compromisso da OpenAI em colaborar com governos para evitar ocorrências similares no futuro. A empresa pretende aprimorar seus processos de monitoramento e comunicação para minimizar riscos associados ao uso de suas plataformas.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, segurança digital, moderação de conteúdo, responsabilidade tecnológica, denúncia de violência, ação judicial, prevenção de ataques, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
