Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, suspeita de um ataque que resultou em oito mortes em fevereiro. O pedido ocorreu mais de dois meses após o ocorrido, em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, que classificou a resposta como insuficiente.
Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária local, onde matou cinco alunos e um professor antes de tirar a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior, banindo-a do ChatGPT por conteúdos considerados abusivos.
A empresa decidiu não comunicar as autoridades canadenses na época, justificando que o comportamento da usuária não apresentava gravidade suficiente para um alerta policial. Sam Altman declarou arrependimento pela falha em notificar a polícia, dizendo que o pedido de desculpas é um reconhecimento do dano sofrido pela comunidade de Tumbler Ridge.
A OpenAI utiliza sistemas automatizados de moderação para detectar conteúdos que violem suas políticas, incluindo exploração sexual, incentivo à suicídio e promoção de violência. Quando caso grave é detectado, o sistema sinaliza para avaliação humana e pode encaminhar informações às autoridades.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso não houvesse melhorias nas práticas de monitoramento. A empresa anunciou o reforço das medidas de segurança e a criação de um canal direto de comunicação com a polícia local.
Sam Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar incidentes semelhantes, ressaltando que o foco será evitar que tragédias como a de Tumbler Ridge aconteçam novamente. A empresa também enfrenta uma ação judicial movida por familiares de uma das vítimas feridas no tiroteio, que acusam a companhia de negligência ao não agir diante do plano de violência anunciado pela atiradora.
A controvérsia sobre a responsabilidade das plataformas digitais na prevenção de crimes violentos reacende o debate sobre os limites e obrigações legais das empresas de tecnologia na moderação e compartilhamento de informações potencialmente perigosas.
Palavras-chave relacionadas: OpenAI, Sam Altman, Tumbler Ridge, tiroteio em massa, ChatGPT, moderação de conteúdo, segurança digital, ataque armado Canadá, responsabilidade tecnológica, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
