Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes ligados a uma ex-usuária do ChatGPT antes dela cometer um ataque que resultou na morte de oito pessoas em fevereiro. A manifestação foi feita em carta divulgada nesta sexta-feira (24), após crítica do governo local.
A suspeita, uma jovem de 18 anos, matou a mãe e o meio-irmão em casa no dia 10 de fevereiro, antes de atacar uma escola secundária da cidade, onde matou cinco crianças, um professor e, em seguida, tirou a própria vida. A atiradora havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano anterior.
A OpenAI afirmou no período que identificou a conta da suspeita por seus sistemas automatizados de detecção de abuso e decidiu pelo banimento sem comunicar as autoridades porque a atividade não foi considerada grave o suficiente para justificar um alerta policial. Altman, entretanto, afirmou estar “profundamente arrependido” por não ter alertado a polícia e justificou o pedido tardio como uma forma de respeitar o luto da comunidade.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais têm pressionado a OpenAI pela revisão dos protocolos de segurança após o episódio.
Segundo a OpenAI, o ChatGPT utiliza sistemas automatizados para monitorar conteúdos em tempo real, reprimindo exploração sexual, promoção de suicídio, automutilação e incitação à violência. Em casos de ameaças consideradas críveis, dados das contas são repassados à polícia, após análise humana.
Após o ataque, representantes da OpenAI foram convocados por autoridades canadenses, que afirmaram que ações regulatórias poderão ser adotadas caso melhorias não sejam implementadas nos sistemas de segurança. A empresa informou que está reforçando seus mecanismos de proteção e criou um canal direto de comunicação com as forças policiais.
Altman afirmou que a OpenAI pretende colaborar com os governos em todos os níveis para evitar a repetição de tragédias semelhantes e prometeu continuar aprimorando as medidas preventivas.
Familiares de uma das vítimas feridas no tiroteio entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a companhia tinha conhecimento do planejamento do ataque e não tomou providências para impedir o crime.
O episódio levanta questões sobre a responsabilidade de empresas de tecnologia no monitoramento e no encaminhamento de potenciais ameaças identificadas por seus sistemas.
—
Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio Tumbler Ridge, ataque em escola, pedido de desculpas, segurança digital, moderação de conteúdo, ação judicial, violência em massa, tecnologia e responsabilidade.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
