Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT antes do ataque que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após o massacre, que envolveu uma mulher transgênero de 18 anos que abriu fogo em uma escola e em sua casa.

Em 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa, depois atirou em cinco crianças e um professor em uma escola local antes de tirar a própria vida. A OpenAI revelou que havia banido a conta da usuária oito meses antes, em junho do ano anterior, por atividade considerada inadequada, mas não notificou as autoridades policiais por acreditar que a situação não era grave o suficiente para isso.

Altman afirmou estar “profundamente arrependido” pelo erro e reconheceu que palavras não são suficientes para reparar as perdas sofridas pela comunidade de Tumbler Ridge. Ele justificou a demora no pedido de desculpas dizendo que queria respeitar o período de luto dos moradores.

Segundo a OpenAI, o ChatGPT utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem restringir ou banir contas que infrinjam as regras, que incluem proibições contra exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos graves, comportamentos de alto risco são submetidos a revisão humana e, se necessário, os dados podem ser compartilhados com a polícia.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso as medidas de segurança não fossem reforçadas. A empresa declarou que está trabalhando para aprimorar seus controles e estabeleceu um canal de comunicação direto com a polícia local para facilitar ações futuras.

A família de uma menina ferida no tiroteio abriu uma ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento do plano da atiradora para realizar um ataque em massa, mas não tomou medidas preventivas.

Altman afirmou que a OpenAI está empenhada em colaborar com os governos para evitar que tragédias similares aconteçam novamente. O foco da empresa, segundo ele, será fortalecer as ações de segurança e responsabilização diante de conteúdos que possam indicar ameaças reais.

A tragédia em Tumbler Ridge acendeu o debate sobre a responsabilidade das empresas de tecnologia no monitoramento e comunicação de riscos detectados em suas plataformas, especialmente em casos envolvendo ameaças de violência. A OpenAI promete aprimorar seus sistemas para garantir respostas mais eficazes e rápidas diante desses sinais.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, moderação de conteúdo, ataque a tiros, ação judicial, tecnologia, violência, segurança digital.

Fonte: g1.globo.com