Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre mensagens preocupantes enviadas a partir de uma conta banida do ChatGPT, oito meses antes de um tiroteio que matou oito pessoas em fevereiro de 2024. O pedido de desculpas foi feito em carta ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois atirou em uma escola secundária local, provocando a morte de cinco crianças e um professor. A atiradora tirou a própria vida logo após os assassinatos.
Em junho de 2023, a OpenAI identificou conteúdos preocupantes na conta da suspeita, que violavam as regras de uso do ChatGPT, e baniram o perfil. No entanto, a empresa não comunicou a polícia, argumentando que a atividade não era grave o suficiente para justificar um aviso às autoridades naquele momento.
Sam Altman afirmou estar “profundamente arrependido” por não ter notificado as forças de segurança e reconheceu a necessidade do pedido de desculpas, mesmo admitindo que as palavras não podem reparar a perda sofrida pela comunidade de Tumbler Ridge.
David Eby, primeiro-ministro da Colúmbia Britânica, classificou a desculpa como “necessária, e ainda assim grosseiramente insuficiente”. Ele enfatizou a importância de ações concretas para evitar novos incidentes.
A OpenAI utiliza sistemas automatizados de moderação que analisam mensagens em tempo real e bloqueiam conteúdos que promovam violência, suicídio ou abuso sexual. Em casos extremos, esses sistemas sinalizam as contas para revisão humana e, se houver ameaça consistente, os dados podem ser compartilhados com a polícia.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso a empresa não aprimorasse suas práticas de segurança. A OpenAI informou que intensificará suas medidas e criou um canal direto de comunicação com a polícia local.
Na carta, Altman destacou o compromisso da empresa em colaborar com todos os níveis de governo para que tragédias como essa não se repitam. Ele afirmou que a empresa busca formas de aprimorar a detecção de ameaças e prevenir futuras violências.
Familiares de uma das vítimas gravemente feridas no ataque moveram uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado medidas após identificar o conteúdo suspeito na conta da atiradora.
O caso reforça o desafio de plataformas de inteligência artificial em equilibrar a privacidade dos usuários e a responsabilidade em prevenir atos de violência.
—
Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Canadá, Tumbler Ridge, Colúmbia Britânica, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
