Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT que cometeu um ataque de tiroteio em massa em fevereiro. A mulher transgênero de 18 anos matou oito pessoas, incluindo cinco crianças, um professor, a mãe e o meio-irmão, antes de tirar a própria vida em uma escola da localidade.
O ataque ocorreu em 10 de fevereiro na província da Colúmbia Britânica, no Canadá. Altman afirmou estar “profundamente arrependido” por a OpenAI não ter informado as autoridades sobre o comportamento da suspeita, apesar de tê-la banido do ChatGPT oito meses antes da tragédia. A empresa identificou o perfil por meio de seus sistemas automáticos de moderação, que bloqueiam contas que violam regras contra exploração sexual, automutilação, suicídio e promoção de violência.
Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, o CEO da OpenAI reconheceu que o pedido de desculpas vem após um período de espera superior a dois meses para respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.
Segundo a OpenAI, o perfil da atiradora não foi reportado à polícia na época da suspensão porque a análise interna indicou que o conteúdo não configurava uma ameaça grave o suficiente para o encaminhamento às autoridades. Os sistemas da empresa são programados para sinalizar riscos extremos para revisão humana e, quando apropriado, compartilhar informações com a polícia.
Após o incidente, autoridades canadenses pressionaram a equipe de segurança da OpenAI, ameaçando aplicar ações regulatórias caso as medidas de prevenção não fossem reforçadas. Em resposta, a empresa anunciou a criação de um canal direto para comunicação com a polícia e a intensificação dos seus protocolos de segurança.
Sam Altman afirmou que a OpenAI pretende colaborar com governos para evitar episódios semelhantes no futuro. A empresa busca aprimorar seus sistemas de detecção e o fluxo de informação com as forças de segurança pública.
Além do pedido de desculpas, uma família afetada pelo ataque entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da agressora para cometer um “evento com mortes em massa” e não tomou providências necessárias para prevenir o ataque.
O tiroteio gerou debate sobre a responsabilidade das empresas de tecnologia em monitorar e agir diante de comportamentos violentos em suas plataformas. A OpenAI segue sob pressão para ajustar seus sistemas automatizados e as políticas de denúncia.
—
Palavras‑chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque escolar, moderação de conteúdo, segurança digital, responsabilidade tecnológica, ação judicial, violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
