O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque em fevereiro, deixando oito mortos. O pedido de desculpas foi feito por meio de uma carta divulgada em 24 de abril, mais de dois meses após o incidente, que ocorreu na Colúmbia Britânica.
No ataque, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois atirou contra cinco estudantes e um professor em uma escola local, terminando com o suicídio da própria suspeita. A OpenAI afirmou que identificou e baniu a conta da mulher em junho do ano anterior à tragédia, após flagrar comportamentos considerados abusivos no ChatGPT.
Segundo Altman, a empresa não comunicou a polícia na ocasião porque a atividade da usuária não teve gravidade suficiente para justificar aviso às autoridades. O CEO declarou estar “profundamente arrependido” pela decisão e ressaltou o compromisso da OpenAI em cooperar com governos para evitar novos casos do tipo.
O primeiro-ministro da província, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade do ocorrido e as falhas da empresa em sua abordagem preventiva. Autoridades canadenses também buscaram reforçar a regulação da segurança de plataformas tecnológicas após o episódio.
A OpenAI utiliza sistemas automáticos de moderação que analisam conteúdos em tempo real, podendo restringir ou banir contas por violações como promoção de violência, suicídio ou automutilação. Em casos de risco elevado, as informações devem ser encaminhadas para revisão humana e eventualmente às autoridades policiais.
Após o ataque em Tumbler Ridge, a empresa anunciou medidas para fortalecer sua política de segurança, incluindo a criação de um canal direto de comunicação com a polícia local. Altman afirmou que o foco da empresa será trabalhar com todos os níveis de governo para evitar futuras tragédias.
Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano de massacre da atiradora e não tomou medidas eficientes para impedir o ataque.
O caso levanta questões sobre o papel das empresas de tecnologia na prevenção de crimes envolvendo usuários que manifestam comportamentos violentos em plataformas digitais. O debate sobre responsabilidade e regulamentação ainda está em andamento.
Palavras-chave relacionadas: OpenAI, Sam Altman, Tumbler Ridge, tiroteio em massa, ChatGPT, segurança digital, moderação de conteúdos, violência, tecnologia, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
