O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um ataque em fevereiro, resultando na morte de oito pessoas. O pedido foi feito em uma carta divulgada nesta sexta-feira (24) e ocorre após pressão das autoridades locais.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária de Tumbler Ridge e abrir fogo, matando outras cinco crianças e um professor. Após o ataque, a suspeita tirou a própria vida.
A OpenAI informou que identificou a conta da atiradora por meio dos sistemas de detecção de abuso e a baniu do ChatGPT em junho do ano anterior, oito meses antes do crime. No entanto, a empresa não notificou a polícia canadense, alegando que a atividade detectada não justificava uma comunicação formal às autoridades.
Sam Altman afirmou estar “profundamente arrependido” por não ter alertado as autoridades sobre a conta banida. Ele justificou o atraso no pedido de desculpas, afirmando que foi para respeitar o luto da comunidade de Tumbler Ridge.
O primeiro-ministro da província da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele reforçou a necessidade de ações preventivas para evitar novas tragédias.
A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real, podendo restringir ou banir contas que violem regras, como apoio à automutilação, promoção de violência e outros comportamentos de risco. Em casos graves, o sistema sinaliza para revisão humana e pode compartilhar informações com a polícia.
Após o incidente, autoridades canadenses convocaram a equipe de segurança da OpenAI e alertaram para possíveis medidas regulatórias caso as práticas não fossem aprimoradas. A empresa anunciou que reforçará as medidas de segurança e criou um canal direto de comunicação com as forças policiais.
Em sua carta, Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar que eventos semelhantes ocorram no futuro, destacando que o foco da empresa será garantir maior segurança.
A família de uma menina ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. O processo alega que a empresa tinha conhecimento dos planos da atiradora para um ataque em massa, mas não tomou providências para impedir o ato.
O episódio destaca o desafio das plataformas digitais em identificar e responder a ameaças virtuais antes que elas se convertam em violência real, aumentando o debate sobre a responsabilidade de empresas de tecnologia.
—
Palavras-chave relacionadas para SEO:
Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, pedido de desculpas, violência online, moderação de conteúdo, ação judicial, segurança digital, ataque no Canadá, responsáveis por tecnologia, prevenção de crimes, comunicação com polícia
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
