Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes de uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. A ação resultou em críticas do governo local e em processos judiciais contra a empresa.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola secundária, onde matou cinco alunos e um professor antes de tirar a própria vida. A polícia registrou um total de dez mortos e 25 feridos no ataque.
A OpenAI informou que identificou a usuária pela primeira vez em junho do ano anterior e a baniu do ChatGPT por violações das regras de uso. No entanto, a empresa não comunicou o incidente às autoridades na época, argumentando que o nível das violações não justificava um alerta imediato à polícia.
Sam Altman reconheceu o erro em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, na qual afirmou estar “profundamente arrependido” por não ter acionado as autoridades. Ele explicou que o atraso no pedido de desculpas, feito mais de dois meses após o ataque, foi para respeitar o luto da comunidade.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade da situação e a necessidade de medidas mais efetivas para evitar futuros episódios.
A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real, podendo banir contas que apresentem violações, como promoção de violência, automutilação e suicídio. Em casos graves, o sistema sinaliza para revisão humana e pode encaminhar informações às autoridades, conforme previsto.
Após o ataque, as autoridades canadenses se reuniram com a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso a empresa não reforçasse suas medidas de segurança. A companhia anunciou a criação de um canal de comunicação direto com a polícia para melhorar a resposta a riscos identificados.
A empresa reiterou seu compromisso em colaborar com governos para prevenir tragédias semelhantes, segundo a declaração de Altman. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, afirmou.
Paralelamente, a família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para cometer um ataque em massa, mas não tomou medidas para impedir o crime.
Essa situação evidenciou desafios em como plataformas digitais monitoram e reportam conteúdos de risco, principalmente diante do uso crescente de tecnologias de inteligência artificial para moderar interações dos usuários.
A OpenAI enfrenta pressões regulatórias e sociais para aprimorar seus mecanismos de detecção e resposta a comportamentos potencialmente perigosos, em um cenário global que busca equilibrar segurança e privacidade na internet.
Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, ataque em massa, segurança digital, moderação de conteúdo, ação judicial, Colúmbia Britânica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
