O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de alerta à polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. O pedido foi feito mais de dois meses após a tragédia e reconhece a responsabilidade da empresa na omissão.
Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão na casa da família e, em seguida, abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de cometer suicídio. A OpenAI informou que identificou e baniu a conta da suspeita em junho do ano anterior, oito meses antes do ataque.
A empresa explicou que não reportou a conta à polícia na ocasião porque a atividade detectada não atingia um nível considerado grave o suficiente para justificar uma notificação às autoridades. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falha em comunicar os sinais de alerta.
David Eby descreveu o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, reforçando a insatisfação das autoridades locais com a resposta da OpenAI. A empresa declarou também que respeitou o período de luto da comunidade antes de se manifestar publicamente.
A OpenAI utiliza sistemas automatizados de moderação que analisam o conteúdo gerado em tempo real para identificar violações das regras de uso, incluindo exploração sexual, apoio à automutilação e promoção de violência. Comportamentos considerados de alto risco são submetidos a revisão humana e, quando há ameaça crível, os dados podem ser compartilhados com a polícia.
Após o ataque, autoridades canadenses solicitaram mudanças nas políticas de segurança da OpenAI, ameaçando sanções regulatórias caso as medidas não fossem aprimoradas. A empresa respondeu afirmando que intensificará seus controles e criou um canal direto de comunicação com a polícia local.
Na carta, Altman afirmou que a OpenAI está empenhada em colaborar com os governos para evitar novas tragédias. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse ele.
A família de uma menina gravemente ferida no tiroteio entrou com processo judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do planejamento do ataque pela suspeita, mas não adotou medidas preventivas.
O episódio levanta questões sobre a responsabilidade das plataformas digitais na identificação e comunicação de riscos relacionados a comportamentos violentos, especialmente em sistemas de inteligência artificial que interagem com usuários.
Palavras-chave relacionadas para SEO:
OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, Canadá, ChatGPT, moderação de conteúdo, violência online, denúncia de ameaças, responsabilidade da IA, segurança digital, processo judicial, ataque em escola, polícia, conteúdo preocupante.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
