Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgado em 24 de abril.

A atiradora, uma mulher transgênero de 18 anos, assassinou sua mãe e meio-irmão em casa no dia 10 de fevereiro, antes de atacar uma escola secundária local, onde matou cinco crianças e um professor, e em seguida tirou a própria vida.

A OpenAI identificou a suspeita por meio de seus sistemas de moderação e baniu sua conta do ChatGPT em junho do ano anterior, oito meses antes da tragédia. Segundo a empresa, a atividade detectada na época não foi considerada grave o suficiente para informar as autoridades policiais.

Altman afirmou estar “profundamente arrependido” pela decisão de não ter notificado a polícia e justificou o atraso no pedido de desculpas como uma forma de respeitar o luto da comunidade de Tumbler Ridge.

Na resposta, o primeiro-ministro David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade do ocorrido e a expectativa por respostas mais efetivas da empresa.

A OpenAI explicou que utiliza sistemas automatizados para monitorar conteúdos e que, em casos graves, as contas são revisadas por humanos e dados relevantes podem ser compartilhados com autoridades. A empresa afirmou que reforçará as medidas de segurança e estabeleceu um canal direto de comunicação com a polícia.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias se mudanças não fossem adotadas.

Além disso, a família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência e alegando que ela tinha conhecimento dos planos da atiradora para cometer um “evento com mortes em massa” sem tomar medidas para impedir o ataque.

Altman destacou no documento que a OpenAI está comprometida em colaborar com governos para evitar novas tragédias e melhorar seus sistemas de detecção e resposta a ameaças.

A empresa enfrenta agora pressão pública e regulatória para aprimorar seus protocolos de segurança e a forma como lida com conteúdos de alto risco no ChatGPT.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, pedido de desculpas, segurança digital, moderação de conteúdo, ataque em escola, negligência OpenAI.

Fonte: g1.globo.com