Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando dez mortos. O pedido foi feito em carta divulgada em 24 de abril, mais de dois meses após o ocorrido.
No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local e matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI revelou que a usuária havia sido banida do ChatGPT oito meses antes da tragédia, em junho, por violações às regras da plataforma.
Altman admitiu que a empresa não reportou a conta às autoridades na época porque julgou que a atividade não era suficientemente grave para justificar uma denúncia. “Estou profundamente arrependido por não termos alertado as autoridades policiais”, escreveu. Ele também afirmou que o pedido de desculpas foi feito tardiamente para respeitar o luto da comunidade.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido da OpenAI “necessário, e ainda assim grosseiramente insuficiente”. O governo canadense convocou a equipe de segurança da empresa para discutir o caso e ameaçou tomar medidas regulatórias caso mudanças não fossem implementadas.
A OpenAI informou que utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real e que contas podem ser banidas por promover violência ou comportamentos de risco. Em situações graves, o sistema sinaliza conteúdos para revisão humana e pode compartilhar informações com autoridades policiais.
Após a tragédia, a empresa afirmou que reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia para evitar casos semelhantes. Altman declarou que a OpenAI está comprometida em trabalhar com os governos para impedir que incidentes assim se repitam.
Familiares de uma das vítimas entraram com uma ação judicial contra a empresa dos Estados Unidos, alegando negligência. Eles dizem que a OpenAI sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas para impedir o ataque.
A morte de oito pessoas e os ferimentos em 25 outras geraram debates sobre a responsabilidade das plataformas de inteligência artificial na identificação e denúncia de ameaças reais. O caso reforça a necessidade de políticas claras e processos efetivos para lidar com conteúdos de risco em sistemas automatizados.
Palavras-chave: OpenAI, Sam Altman, tiroteio Canadá, ChatGPT, moderação de conteúdo, violência em plataforma digital, Colúmbia Britânica, segurança digital, denúncia de ameaças, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
