Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, pela omissão da empresa em não alertar a polícia sobre conteúdos preocupantes relacionados a uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque. O pedido foi feito em resposta à tragédia que ocorreu em 10 de fevereiro.

A suspeita, uma jovem de 18 anos, matou a mãe e o meio-irmão em casa, seguiu para uma escola local e abriu fogo, matando cinco alunos, um professor antes de tirar a própria vida. A OpenAI identificou a conta da usuária em junho do ano anterior e a baniu, mas não comunicou a polícia por considerar que a atividade não justificava ação das autoridades.

Sam Altman declarou estar “profundamente arrependido” por não ter informado a polícia canadense sobre as suspeitas detectadas. Ele reconheceu a importância do pedido de desculpas para reconhecer o dano e a perda irreversível sofridos pela comunidade de Tumbler Ridge. O CEO também explicou que aguardou para fazer a declaração por respeito ao luto dos moradores.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente” diante da gravidade do caso. A família de uma das vítimas feridas no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência da empresa. Eles afirmam que a OpenAI tinha conhecimento de planos para um ataque em massa, mas não tomou providências.

A OpenAI informou que utiliza sistemas automatizados para moderação de conteúdo no ChatGPT, capazes de detectar e restringir contas que violem regras contra violência, automutilação e outros comportamentos de risco. Em casos graves, os sistemas alertam revisores humanos e podem compartilhar informações com as autoridades policiais. Apesar dessa estrutura, a empresa reconheceu falhas na comunicação e prometeu reforçar as medidas de segurança.

Após o ataque, autoridades canadenses se reuniram com a equipe de segurança da OpenAI e alertaram que poderão aplicar sanções regulatórias caso mudanças não sejam implementadas. A empresa também criou um canal de contato direto com a polícia para melhorar a cooperação em situações futuras.

Na carta enviada a David Eby, Altman afirmou que a OpenAI está comprometida em trabalhar com governos para impedir que tragédias semelhantes aconteçam novamente. O caso chama atenção para os desafios na moderação de plataformas baseadas em inteligência artificial e na responsabilidade de empresas tecnológicas em prevenir atos violentos.

—

Palavras‑chave para SEO:
OpenAI, Sam Altman, pedido de desculpas, tiroteio em massa, Tumbler Ridge, ChatGPT, moderação de conteúdo, segurança digital, responsabilidade tecnológica, Canadá, ação judicial, violência, inteligência artificial, sistema de alerta, Colúmbia Britânica.

Fonte: g1.globo.com