Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de alerta à polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um tiroteio em massa em fevereiro. O ataque resultou na morte de oito pessoas, incluindo a autora do crime, e levantou questionamentos sobre o papel da empresa em prevenir a tragédia.
Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois disparou contra cinco estudantes e um professor em uma escola local, antes de tirar a própria vida. A OpenAI identificou e baniu essa usuária do ChatGPT oito meses antes do ataque, em junho, por meio de seus sistemas automáticos de moderação. A empresa afirmou que não comunicou a polícia na época porque a atividade detectada não foi considerada séria o suficiente para acioná-la.
Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman declarou estar “profundamente arrependido” pela falta de notificação às autoridades e disse acreditar que um pedido de desculpas é necessário para reconhecer a perda sofrida pela comunidade. Altman explicou que o atraso no pedido se deu por respeito ao período de luto da cidade.
O primeiro-ministro Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI para discutir melhorias e ameaçaram adotar medidas regulatórias caso as mudanças não fossem implementadas. Em resposta, a empresa afirmou que reforçará suas medidas de segurança e estabeleceu um canal direto de comunicação com a polícia.
Os sistemas de moderação da OpenAI analisam conteúdos em tempo real para identificar violações que envolvem exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de riscos elevados, as atividades são revisadas por humanos e, se a ameaça for confirmada, dados podem ser compartilhados com as autoridades competentes.
Uma família de uma vítima ferida no tiroteio entrou com ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências para impedir o ataque.
Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar tragédias semelhantes no futuro e reforçar a segurança dos seus sistemas. O episódio reaviva o debate sobre a responsabilidade das empresas de tecnologia na prevenção de crimes facilitados ou antecipados por meio das suas ferramentas.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, prevenção, moderação de conteúdo, ataque no Canadá, segurança digital, ação judicial
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
