Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de ela cometer um ataque que deixou oito mortos em fevereiro. O pedido foi feito mais de dois meses após o tiroteio, que ocorreu tanto na residência quanto em uma escola local.
A atiradora, uma mulher transgênero de 18 anos, matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária, onde cinco crianças e um professor foram mortos. Após o ataque, ela tirou a própria vida. A OpenAI revelou que identificou e baniu a suspeita do ChatGPT oito meses antes da tragédia, em junho, após comportamento que violava as políticas da plataforma.
Na época do banimento, a empresa não informou as autoridades policiais porque julgou que a atividade não era grave o suficiente para uma denúncia formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela ausência do alerta às autoridades. Ele afirmou que o pedido de desculpas é uma forma de reconhecer os danos causados à comunidade.
David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a importância de medidas mais concretas por parte da OpenAI para evitar futuras tragédias. Após o ataque, autoridades canadenses mantiveram reuniões com a equipe de segurança da OpenAI e sinalizaram possíveis ações regulatórias caso a empresa não intensificasse suas políticas de segurança.
A OpenAI afirmou que utiliza sistemas automatizados que monitoram conteúdos em tempo real para detectar violações às suas regras, incluindo exploração sexual, automutilação, suicídio e promoção de violência. Contas que apresentarem comportamentos de alto risco são revisadas por humanos e, caso uma ameaça crível seja identificada, a empresa pode compartilhar informações com a polícia.
Após a tragédia em Tumbler Ridge, a OpenAI anunciou que reforçará suas medidas de segurança e criou um canal de comunicação direto com as autoridades policiais locais. Altman garantiu que a empresa trabalhará em conjunto com todos os níveis de governo para evitar episódios semelhantes.
Além do pedido de desculpas, a OpenAI enfrenta uma ação judicial movida pela família de uma menina gravemente ferida no tiroteio. A família acusa a empresa de negligência, alegando que havia conhecimento sobre o plano da atiradora para cometer um ataque com mortes em massa, mas que nenhuma medida foi adotada.
O caso reacende o debate sobre a responsabilidade de plataformas de inteligência artificial na prevenção de conteúdos que possam indicar riscos reais à segurança pública. A transparência e os protocolos adotados pelas empresas nesse tipo de situação são questionados por autoridades e pela sociedade.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, responsabilidade civil, moderação de conteúdo, inteligência artificial, ação judicial, Colúmbia Britânica, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
