Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT que cometeu um ataque fatal em fevereiro. A ação resultou na morte de oito pessoas, entre elas cinco crianças e um professor, durante um tiroteio em uma escola local.

No ataque ocorrido em 10 de fevereiro, a mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir à escola e abrir fogo contra alunos e professores. Após a tragédia, ela tirou a própria vida. A OpenAI identificou e baniu a conta da suspeita do ChatGPT oito meses antes do ocorrido, em junho, por violação das regras de uso da plataforma.

Sam Altman expressou arrependimento por não ter comunicado as autoridades policiais canadenses sobre as atividades da usuária na época do banimento. A empresa não acionou a polícia alegando que a atividade registrada não era grave o suficiente para justificar um alerta formal. Em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” e ressaltou o compromisso da OpenAI em trabalhar para evitar que eventos semelhantes aconteçam no futuro.

O primeiro-ministro David Eby considerou o pedido de desculpas como necessário, mas insuficiente frente à tragédia que abalou a comunidade. Ele destacou a gravidade dos fatos e a importância de medidas mais concretas para prevenção.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real para identificar violações às políticas da empresa, que incluem exploração sexual, automutilação, suicídio e incitação à violência. Em casos identificados como de alto risco, há uma revisão humana e possibilidade de compartilhamento de informações com as autoridades policiais.

Após o ataque, a OpenAI se comprometeu a fortalecer suas medidas de segurança e criou um canal direto de comunicação com a polícia para facilitar respostas rápidas a ameaças futuras. A empresa também enfrenta uma ação judicial movida por uma família que teve uma filha gravemente ferida no tiroteio. A família acusa a OpenAI de negligência, afirmando que a companhia sabia dos planos da atiradora para um ataque em massa, mas não tomou providências.

O episódio levou a uma pressão maior sobre empresas de tecnologia para aprimorar seus sistemas de detecção e resposta a ameaças de violência. Autoridades canadenses anunciaram que poderão adotar medidas regulatórias caso o setor não reforce suas práticas de segurança.

Em sua carta, Altman reiterou o compromisso da OpenAI em colaborar com governos para impedir novos incidentes, destacando a necessidade de ações conjuntas para garantir a segurança da sociedade diante do uso crescente de inteligência artificial.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, moderação de conteúdo, ação judicial, inteligência artificial, violência online.

Fonte: g1.globo.com