Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, suspeita de cometer um tiroteio em massa em fevereiro. O ataque resultou na morte de oito pessoas e motivou questionamentos sobre a responsabilidade da empresa no monitoramento de ameaças.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou contra cinco estudantes e um professor em uma escola da região, e por fim tirou a própria vida. A OpenAI informou que identificou a conta da atiradora em junho do ano anterior, banindo-a da plataforma oito meses antes da tragédia.
A empresa justificou que não comunicou as autoridades canadenses na época por considerar que a atividade da usuária não representava risco suficiente para um alerta policial. Altman afirmou estar “profundamente arrependido” por essa decisão, em carta divulgada no dia 24 de abril ao primeiro-ministro da Colúmbia Britânica, David Eby.
O pedido de desculpas de Altman foi classificado como “necessário, e ainda assim grosseiramente insuficiente” pelo primeiro-ministro, que criticou a resposta da OpenAI ao ocorrido. O CEO disse que atrasou a manifestação para respeitar o período de luto da comunidade de Tumbler Ridge.
A OpenAI utiliza sistemas automatizados para moderar conteúdos em tempo real e pode banir ou restringir contas que violem suas regras. Entre as infrações estão a promoção de violência, apoio à automutilação, suicídio e exploração sexual. Em casos graves, comportamentos de alto risco são enviados para revisão humana e, se a ameaça for crível, dados podem ser compartilhados com a polícia.
Após o tiroteio, autoridades canadenses solicitaram reunião com a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias caso não houvesse mudanças. A empresa afirmou que irá reforçar suas medidas, inclusive criando um canal de comunicação direta com a polícia local.
Altman afirmou ainda que a OpenAI está comprometida em trabalhar com os governos para evitar novos incidentes do tipo. Ele ressaltou que o foco futuro será prevenir tragédias semelhantes por meio de avanços em segurança e cooperação institucional.
Familiares de uma das vítimas que sobreviveu ao ataque entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou nenhuma providência para impedir o crime.
O caso reacende o debate sobre os limites e responsabilidades das empresas de tecnologia na moderação de conteúdos e no monitoramento de seus usuários para evitar situações que resultem em violência. A OpenAI enfrenta pressão para aprimorar seus mecanismos de detecção e resposta a ameaças potenciais.
—
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, denúncia de violência, moderação de conteúdo, segurança digital, ação judicial, tecnologia e segurança.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
