Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após não alertar a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque em fevereiro, matando oito pessoas. O pedido foi feito mais de dois meses depois do incidente, motivado pelo respeito ao luto da comunidade local.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, Canadá. No ataque, cinco crianças, um professor e a atiradora morreram, além de 25 pessoas ficaram feridas.
A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior e banido o acesso ao ChatGPT. A empresa, no entanto, não comunicou as autoridades canadenses à época, alegando que a atividade da usuária não teve gravidade suficiente para justificar a denúncia policial.
Sam Altman reconheceu o erro e disse estar “profundamente arrependido” por não ter informado a polícia sobre o conteúdo preocupante vinculado à conta da suspeita. Na carta dirigida ao primeiro-ministro David Eby, o CEO ressaltou que o pedido de desculpas é um reconhecimento da perda irreversível sofrida pela comunidade de Tumbler Ridge.
David Eby, chefe do governo da Colúmbia Britânica, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, criticando a demora e a resposta da OpenAI diante da tragédia.
A OpenAI explicou que utiliza sistemas automatizados para moderar conteúdos em tempo real no ChatGPT, banindo ou restringindo contas que violam as regras, incluindo aquelas que promovem violência, automutilação, suicídio ou exploração sexual. Para casos considerados graves, o sistema sinaliza para revisão humana, e autoridades podem ser notificadas se uma ameaça crível for identificada.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI e cobraram ajustes nos protocolos de segurança, ameaçando adotar medidas regulatórias. Em resposta, a empresa afirmou que fortaleceu seus mecanismos de monitoramento e criou um canal direto de comunicação com as forças policiais.
Além do pedido de desculpas, Altman disse que a OpenAI está comprometida em trabalhar com governos para evitar que eventos similares ocorram novamente, afirmando que o foco será aprimorar a cooperação para garantir a segurança pública.
Familiares de uma menina gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer um “evento com mortes em massa”, mas não tomou as medidas necessárias para impedir o crime.
O caso levanta questões sobre os limites da responsabilidade das plataformas de inteligência artificial em monitorar e reportar riscos de violência. A OpenAI enfrenta pressão para revisar seus protocolos e assumir maior transparência na gestão de conteúdos e usuários potencialmente perigosos.
A tragédia em Tumbler Ridge reforça o debate sobre o uso seguro da inteligência artificial e a necessidade de regulamentação que envolva a prevenção de crimes motivados por comunicações digitais.
—
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, Canadá, ataque a tiros, moderação de conteúdo, responsabilidade da IA, segurança pública, denúncia policial, sistemas automatizados, ação judicial, prevenção de violência, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
