Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes do ataque que deixou oito mortos em fevereiro. O incidente envolveu uma mulher transgênero de 18 anos que matou familiares e depois realizou um tiroteio em uma escola local.
Em 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa e, em seguida, atirou contra cinco estudantes e um professor em uma escola secundária, antes de tirar a própria vida. A OpenAI afirmou ter identificado a conta da usuária por meio dos sistemas automatizados de detecção e banido o acesso em junho do ano anterior, oito meses antes da tragédia.
A empresa não comunicou a polícia na época porque avaliou que a atividade detectada não justificava uma denúncia formal às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman manifestou “profundo arrependimento” por não ter alertado as autoridades. Ele justificou o atraso do pedido de desculpas afirmando que visava respeitar o luto da comunidade.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses reuniram-se com a equipe de segurança da OpenAI após o ataque e alertaram que poderiam aplicar medidas regulatórias caso não houvesse mudanças na política de segurança da empresa.
A OpenAI explicou que utiliza sistemas automatizados para monitorar o conteúdo em tempo real e pode restringir ou banir contas que violem as regras, que incluem promoção de violência, automutilação e abuso sexual. Quando comportamentos de alto risco são identificados, a empresa prevê a revisão humana e o compartilhamento, quando necessário, de informações com a polícia.
Após o ataque, a empresa prometeu reforçar suas medidas de segurança e estabelecer um canal direto de comunicação com as autoridades policiais. Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar incidentes semelhantes no futuro.
Paralelamente, a família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI por negligência. Eles afirmam que a empresa tinha conhecimento de planos da atiradora para um “evento com mortes em massa” e não tomou providências.
O caso destaca os desafios de moderação de conteúdo em plataformas digitais e o debate sobre a responsabilidade das empresas em prevenir atos violentos.
—
**Palavras-chave relacionadas:** Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, segurança digital, moderação de conteúdo, ação judicial, violência em escolas.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
