Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. Altman afirmou estar “profundamente arrependido” pela omissão da empresa, que havia banido a suspeita meses antes do incidente.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola secundária local, matando cinco crianças e um professor, antes de tirar a própria vida. A OpenAI afirmou que identificou a conta da suspeita por meio de seus sistemas de detecção de abuso e desativou o acesso ao ChatGPT em junho do ano anterior. A empresa não comunicou as autoridades na época, alegando que a atividade não justificava uma denúncia formal.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Altman justificou a demora em se pronunciar dizendo que queria respeitar o momento de luto da comunidade de Tumbler Ridge.
A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real para identificar violações como exploração sexual, apoio à automutilação, suicídio e promoção de violência. Em casos considerados graves, os sistemas sinalizam o comportamento para revisão humana, podendo resultar em compartilhamento de dados com as autoridades. Após o ataque, a empresa criou um canal direto de comunicação com a polícia e afirmou que reforçaria suas medidas de segurança.
Autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias caso não houvesse melhorias na detecção e no procedimento diante de conteúdos de alto risco. A empresa afirmou estar comprometida em colaborar com os governos para evitar tragédias semelhantes no futuro.
Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer um “evento com mortes em massa”, mas não tomou medidas preventivas.
A tragédia reacende o debate sobre as responsabilidades das plataformas digitais no monitoramento de conteúdos potencialmente perigosos e a interação entre tecnologia e segurança pública. A OpenAI, até o momento, não divulgou detalhes específicos sobre as mudanças implementadas após o incidente.
—
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, violência online, segurança digital, moderação de conteúdo, responsabilidade das plataformas, ação judicial, prevenção de massacres, tecnologia e segurança pública.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
