Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. A mulher, de 18 anos, executou o tiroteio em uma escola e na residência familiar antes de cometer suicídio.

Em 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa, depois seguiu para uma escola secundária local, onde matou cinco crianças e um professor. A OpenAI afirmou que identificou e baniu a conta da atiradora em junho do ano anterior, oito meses antes da tragédia, mas não reportou a situação às autoridades. A empresa alegou que o conteúdo detectado não foi considerado grave o suficiente para acionar a polícia.

O primeiro-ministro da Colúmbia Britânica, província onde fica Tumbler Ridge, David Eby, considerou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. A família de uma vítima ferida no ataque entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do plano de “evento com mortes em massa” e não tomou medidas preventivas.

Sam Altman ressaltou que o pedido oficial de desculpas foi feito mais de dois meses após o ocorrido para respeitar o período de luto da comunidade afetada. Ele afirmou que a OpenAI está comprometida a trabalhar com governos para evitar que incidentes semelhantes voltem a acontecer.

A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem restringir ou banir contas que violem suas regras, incluindo casos relacionados a violência, automutilação e suicídio. Em situações de risco alto, os sistemas identificam padrões que passam para revisão humana e podem levar ao compartilhamento de informações com as autoridades policiais.

Depois do ataque, a OpenAI foi chamada pelas autoridades canadenses para reuniões de segurança e recebeu ameaças de possíveis ações regulatórias. A empresa anunciou que vai reforçar suas medidas de segurança e criou um canal direto de comunicação com a polícia local.

O caso levanta questões sobre a responsabilização de plataformas digitais no monitoramento e prevenção de crimes relacionados a conteúdos gerados por usuários. Autoridades e especialistas acompanham as investigações e cobram maior transparência e eficácia nos mecanismos usados por empresas de tecnologia para lidar com ameaças em ambientes digitais.

Keywords para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilização tecnológica, violência online, ação judicial, monitoramento de ameaças, prevenção de crimes, tecnologia e segurança.

Fonte: g1.globo.com