Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de alerta à polícia sobre conteúdos preocupantes de uma usuária que cometeu um ataque em fevereiro. A ação resultou em oito mortes, incluindo crianças e um professor, e levou o executivo a reconhecer a falha na comunicação da empresa.
O ataque aconteceu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa antes de ir a uma escola local e disparar contra estudantes e um professor, causando seis mortes no local, além de tirar a própria vida. A OpenAI revelou que havia banido a usuária do ChatGPT oito meses antes, em junho, após identificar sinais de comportamentos abusivos.
Apesar da exclusão da conta, a empresa não informou as autoridades à época, alegando que as atividades detectadas não eram graves o suficiente para justificar um alerta. Em carta divulgada em 24 de abril, Altman expressou arrependimento por não ter encaminhado a situação à polícia canadense e mencionou a importância do pedido de desculpas à comunidade afetada.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido necessário, mas insuficiente diante da gravidade do ocorrido. Autoridades locais também pressionaram a OpenAI a adotar medidas mais rigorosas após o incidente, o que levou a empresa a reforçar suas políticas de segurança e instaurar um canal direto de comunicação com policiais.
Os sistemas automatizados da OpenAI monitoram o ChatGPT em tempo real para identificar conteúdos que violam as regras, como incentivo à violência, automutilação e suicídio. Quando sinais de risco elevado são detectados, casos são revisados por humanos, com possibilidade de repasse de informações para autoridades, conforme a gravidade.
Após o tiroteio, a OpenAI comprometeu-se a colaborar com órgãos governamentais para evitar eventos semelhantes. Altman afirmou que a empresa busca aprimorar suas práticas para garantir a segurança das comunidades. Enquanto isso, a família de uma menina gravemente ferida no ataque moveu ação judicial contra a empresa, acusando negligência e omissão diante do planejamento prévio da atiradora.
O caso destaca desafios no uso de inteligência artificial para prevenção de crimes e a responsabilidade das empresas tecnológicas em identificar e agir sobre comportamentos de risco. As discussões sobre regulamentação do setor e protocolos de segurança continuam a ser pauta para governos e organizações internacionais.
—
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, violência, segurança digital, moderação de conteúdo, denúncia automática, responsabilidade tecnológica, justiça, ataque escolar, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
