Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT, responsável por um ataque a tiros em fevereiro que resultou na morte de oito pessoas. O pedido de desculpas foi divulgado em 24 de abril, mais de dois meses após a tragédia.
Em 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola local, onde matou cinco crianças e um professor antes de tirar a própria vida. A atiradora havia sido banida do ChatGPT pela OpenAI em junho do ano anterior, após o sistema identificar violações às regras de uso.
Altman afirmou que a empresa não comunicou o caso à polícia à época porque a atividade detectada não parecia grave o suficiente para justificar um alerta às autoridades. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, escreveu o executivo em carta ao primeiro-ministro da Colúmbia Britânica, David Eby.
A OpenAI afirmou que utiliza sistemas automáticos de moderação para identificar conteúdos que violam as políticas, incluindo promoção de violência, e que contas podem ser restringidas ou banidas. Quando uma ameaça considerada crível é detectada, os dados da conta podem ser compartilhados com a polícia para evitar riscos maiores.
O governo canadense convocou a equipe de segurança da OpenAI após o ataque e ameaçou ações regulatórias caso não fossem feitas melhorias nos protocolos de segurança. A empresa garantiu que iria reforçar suas medidas e criou um canal direto de comunicação com as autoridades locais.
David Eby classificou as desculpas de Altman como “necessárias, e ainda assim grosseiramente insuficientes”. A família de uma das vítimas feridas no ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência e de não ter tomado medidas apesar de saber dos planos da suspeita.
Altman justificou o atraso no pedido de desculpas dizendo que desejava respeitar o período de luto da comunidade de Tumbler Ridge. Ele também destacou o compromisso da OpenAI em trabalhar com governos para evitar novos incidentes do tipo, com foco em melhorar a detecção e a comunicação de ameaças.
A tragédia em Tumbler Ridge reacendeu o debate sobre a responsabilidade das plataformas digitais em monitorar conteúdos de risco e agir preventivamente. A OpenAI e outras empresas do setor buscam formas de equilibrar a moderação automatizada com o acompanhamento humano para garantir maior segurança.
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, Canadá, pedido de desculpas, moderação de conteúdo, segurança digital, ação judicial, violência em massa
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
