Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de ela cometer um ataque em fevereiro que resultou na morte de oito pessoas. A declaração foi feita em carta divulgada em 24 de abril, mais de dois meses após a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola local, deixando cinco crianças e um professor mortos antes de tirar a própria vida. A OpenAI identificou a usuária como violadora das políticas do ChatGPT em junho do ano anterior e a baniu da plataforma, mas não comunicou as autoridades na época.

Altman afirmou que a empresa usou seus sistemas de moderação automática para detectar abusos e que teria julgado que a situação não justificava um convite oficial à polícia. Ele expressou arrependimento e reconheceu que o pedido de desculpas é insuficiente diante da perda causada. O primeiro-ministro da Colúmbia Britânica, David Eby, chamou a retratação de necessária, porém “grosseiramente insuficiente”.

A OpenAI informou que seus sistemas analisam conteúdo em tempo real e podem restringir ou banir contas que violem regras, especialmente em temas de exploração sexual, automutilação, suicídio e violência. Casos considerados de alto risco devem ser revistos por humanos para possível comunicação às autoridades.

Após o ataque, autoridades canadenses pressionaram a OpenAI para reforçar seus protocolos de segurança, com ameaças de sanções regulatórias em caso de falha. A empresa anunciou a criação de um canal direto para polícia e prometeu trabalhar com governos para evitar novas tragédias.

A família de uma vítima do tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Segundo a denúncia, a companhia teria conhecimento dos planos da atiradora para um ataque com múltiplas mortes e não tomou medidas preventivas.

Sam Altman justificou o atraso na divulgação do pedido de desculpas afirmando que quis respeitar o período de luto da comunidade de Tumbler Ridge. Ele reiterou o compromisso da OpenAI em aprimorar suas ferramentas de detecção e colaboração com autoridades para evitar eventos semelhantes.

A tragédia reacendeu debates sobre os limites das plataformas de inteligência artificial e a responsabilidade de empresas no monitoramento de potenciais ameaças. Especialistas apontam a necessidade de equilíbrio entre privacidade dos usuários e segurança pública em ambientes digitais.

Até o momento, o caso segue sob investigação e aguarda desdobramentos judiciais e regulatórios. A OpenAI continua sendo pressionada para maior transparência e efetividade em suas políticas de moderação e colaboração com órgãos de segurança.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em escola, violência em massa, moderação de conteúdo, denúncia de ameaças, segurança digital, responsabilidade de IA, ação judicial OpenAI

Fonte: g1.globo.com