Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais de alerta em uma conta do ChatGPT ligada à suspeita de um tiroteio que matou oito pessoas em fevereiro. O pedido foi feito depois que a usuária, banida do chatbot oito meses antes do ataque, cometeu o crime e tirou a própria vida.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local e atirou em cinco alunos e um professor antes de se suicidar. A OpenAI informou que identificou a conta da suspeita em junho do ano anterior, por meio de seus sistemas de detecção de abuso, e a baniu. A empresa não comunicou o caso às autoridades na época, alegando que a atividade não foi considerada grave o suficiente.

Sam Altman afirmou estar “profundamente arrependido” por não ter notificado a polícia sobre a conta banida. O CEO explicou que adiou o pedido de desculpas para respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, disse que a manifestação foi “necessária, e ainda assim grosseiramente insuficiente”.

A OpenAI usa sistemas automatizados para moderação de conteúdos em tempo real. Contas podem ser suspensas por violações relacionadas a exploração sexual, incentivo à automutilação, suicídio ou violência. Em situações graves, o sistema sinaliza para revisão humana e pode compartilhar dados com autoridades policiais caso detecte ameaças críveis.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e avisaram que poderiam adotar medidas regulatórias se melhorias não fossem feitas. Em resposta, a empresa se comprometeu a reforçar os protocolos de segurança e a criar um canal de comunicação direto com a polícia local.

Altman reforçou que a OpenAI está empenhada em trabalhar com diferentes níveis de governo para prevenir novos incidentes. “Nosso foco continuará sendo colaborar para garantir que tragédias como essa não ocorram novamente”, disse na carta divulgada em 24 de abril.

A família de uma vítima gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a companhia tinha conhecimento do plano da atiradora para provocar uma “matança em massa” e não tomou as medidas necessárias para impedir o ataque.

O caso levanta questionamentos sobre a responsabilidade das empresas de tecnologia no monitoramento e denúncia de conteúdos que possam indicar riscos reais à segurança pública. A OpenAI busca agora ajustar suas políticas para atender a essas demandas e evitar que situações semelhantes voltem a ocorrer.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio, Tumbler Ridge, denúncia, segurança digital, moderação de conteúdo, violência online, ação judicial.

Fonte: g1.globo.com