Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT que cometeu um ataque em massa em fevereiro. A jovem, de 18 anos, matou oito pessoas antes de tirar a própria vida.
Em 10 de fevereiro, a mulher assassinou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola local, matando cinco alunos e um professor. A OpenAI identificou a usuária através de seus sistemas de monitoramento e a baniu do ChatGPT em junho do ano anterior, oito meses antes dos ataques.
A empresa não comunicou as autoridades policiais na época porque classificou a atividade da conta como insuficientemente grave para um reporte formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falta de alerta às autoridades.
O primeiro-ministro canadense considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a importância de medidas mais efetivas para evitar que episódios similares aconteçam novamente.
A OpenAI utiliza sistemas automatizados para moderar conteúdos em tempo real e restringir ou banir contas que violem as regras, incluindo casos de exploração sexual, incentivo à automutilação, suicídio, e promoção de violência. Em situações de alto risco, o sistema sinaliza os casos para revisão humana e pode compartilhar dados com autoridades policiais.
Após o ataque, a empresa foi convocada por autoridades do Canadá e recebeu alerta sobre possíveis ações regulatórias caso sua política não fosse revisada. A OpenAI anunciou que fortificará as medidas de segurança e criou um canal direto de comunicação com a polícia local.
Altman disse que o pedido de desculpas foi feito com atraso para respeitar o período de luto da comunidade atingida. Ele afirmou que a OpenAI está empenhada em trabalhar em parceria com governos para prevenir tragédias semelhantes no futuro.
Paralelamente, a família de uma das vítimas, uma menina gravemente ferida no ataque, entrou com uma ação judicial contra a OpenAI por negligência. Alega que a empresa tinha conhecimento dos planos da atiradora, mas não tomou nenhuma providência para impedir o crime.
A tragédia mobilizou discussões sobre a responsabilidade das empresas de tecnologia no monitoramento e ação frente a conteúdos e comportamentos de risco em plataformas digitais.
A OpenAI enfrenta agora o desafio de conciliar a segurança dos usuários e a privacidade, enquanto busca aprimorar seus sistemas de detecção e comunicação com autoridades competentes para evitar novos incidentes.
—
**Palavras-chave relacionadas para SEO:**
Sam Altman, OpenAI, ChatGPT, ataque em massa, tiroteio Canadá, Tumbler Ridge, moderação de conteúdo, segurança digital, responsabilização tecnológica, vigilância online, polícia, ação judicial, Colúmbia Britânica, jovem atiradora, prevenção de crimes online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
