Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, cometeu um ataque com tiroteio em massa, resultando em oito mortes. A ação da atiradora, que foi banida da plataforma oito meses antes do crime, levantou críticas e questionamentos sobre o papel da empresa na prevenção do incidente.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola secundária local, matando cinco estudantes e um professor antes de tirar a própria vida. Segundo a OpenAI, a suspeita foi banida do ChatGPT em junho do ano anterior após os sistemas automatizados de moderação identificarem comportamentos que violavam as regras. A empresa, no entanto, não teria comunicado as autoridades por considerar que a atividade não era grave o suficiente.
Após o ataque, Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, afirmando estar “profundamente arrependido” pela falha em reportar a ocorrência às autoridades policiais. Em resposta, Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. O CEO da OpenAI justificou a demora no pronunciamento, alegando respeito ao período de luto na comunidade de Tumbler Ridge.
A OpenAI utiliza sistemas automatizados para monitorar conteúdos no ChatGPT em tempo real, identificando e restringindo contas que promovem exploração sexual, automutilação, suicídio, violência ou outros danos. Em casos considerados graves, a empresa pode sinalizar comportamentos para uma análise humana e, se necessário, compartilhar informações com a polícia para prevenção de crimes.
Após a tragédia, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso não houvesse mudanças nos protocolos de segurança. A empresa afirmou que reforçará seus métodos e já estabeleceu um canal de comunicação direto com a polícia local.
Além disso, a família de uma menina gravemente ferida no ataque entrou com uma ação judicial por negligência contra a OpenAI, alegando que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou providências para impedir o crime.
Em sua carta, Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar que incidentes semelhantes ocorram novamente, reforçando a busca por mecanismos eficazes na identificação e prevenção de riscos associados ao uso da inteligência artificial.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ataque no Canadá, prevenção de crimes.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
