Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre comportamentos preocupantes de uma usuária do ChatGPT, que realizou um ataque a tiros em fevereiro, matando oito pessoas. O pedido de desculpas foi feito por meio de uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa antes de abrir fogo em uma escola da cidade. Ela matou cinco alunos e um professor e, em seguida, tirou a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano anterior.
A OpenAI identificou a conta da usuária por meio de seus sistemas automatizados de detecção de conteúdos abusivos e a bloqueou por violações das regras do serviço. No entanto, a empresa não comunicou as autoridades na época, alegando que as violações não eram graves o suficiente para justificar uma denúncia formal.
Sam Altman afirmou estar “profundamente arrependido” por não ter alertado a polícia e reconheceu o impacto do ataque para a comunidade de Tumbler Ridge. Ele justificou a demora na manifestação devido ao respeito pelo período de luto da população local.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses pressionam a OpenAI para que implemente medidas mais rígidas de segurança e cooperação com as forças policiais.
A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real, podendo restringir ou banir contas que violem regras relacionadas a exploração sexual, promoção de violência, automutilação e suicídio. Esses sistemas sinalizam conteúdos de alto risco para revisão humana e, em casos de ameaças credíveis, informações podem ser compartilhadas com as autoridades.
Após o ataque, a empresa prometeu reforçar suas políticas de segurança e estabelecer um canal direto de comunicação com a polícia canadense. Altman afirmou que o compromisso da empresa é trabalhar com governos para evitar que tragédias semelhantes ocorram no futuro.
Familiares de uma vítima gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência da empresa. Segundo a denúncia, a OpenAI teria conhecimento prévio do plano da atiradora para um “evento com mortes em massa”, mas não tomou medidas adequadas para impedir o crime.
O caso reacende o debate sobre responsabilidade e limites da moderação em plataformas de inteligência artificial, especialmente em situações que envolvem riscos à segurança pública.
—
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Columbia Britânica, pedido de desculpas, segurança digital, moderação de conteúdo, responsabilidade das empresas de IA.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
