Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes trocados por uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. O pedido de desculpas foi enviado formalmente ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
A atiradora, uma mulher transgênero de 18 anos, matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local. No ataque, cinco crianças e um professor foram mortos, e a suspeita posteriormente cometeu suicídio. A OpenAI identificou a usuária por seus sistemas de detecção de abuso e baniu sua conta do ChatGPT em junho do ano anterior, oito meses antes da tragédia.
Apesar de ter identificado e bloqueado a conta, a empresa não comunicou as autoridades canadenses. Segundo Altman, a atividade da usuária não apresentou gravidade suficiente para justificar o contato com a polícia na época. Na carta, ele afirmou estar “profundamente arrependido” por essa decisão e reconheceu o dano e a perda irreversível sofridos pela comunidade de Tumbler Ridge.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI após o ataque e ameaçaram medidas regulatórias caso não fossem adotadas mudanças nos protocolos de segurança.
A OpenAI explicou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas por violações, incluindo promoção de violência. Em casos de alto risco, o sistema sinaliza os conteúdos para revisão humana e pode encaminhar informações às autoridades policiais quando há ameaça crível.
Após o incidente, a empresa afirmou que irá reforçar suas medidas de segurança e instituiu um canal de comunicação direta com a polícia. Altman ressaltou o compromisso da OpenAI em trabalhar com governos para evitar que tragédias similares ocorram no futuro.
A família de uma das vítimas ingressou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do planejamento da atiradora para um evento com mortes em massa, mas não tomou medidas para impedir o ataque.
O caso destaca desafios na segurança e moderação de plataformas de inteligência artificial, especialmente no monitoramento e resposta a sinais de comportamentos violentos. A OpenAI busca ajustar seus protocolos para lidar de forma mais eficaz com possíveis ameaças e colaborar com autoridades.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, justiça canadense, responsabilidade tecnológica, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
