Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito em carta divulgada nesta sexta-feira (24/04) e acompanha críticas de autoridades locais sobre a resposta da empresa.

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa e depois matou cinco alunos e um professor em uma escola secundária de Tumbler Ridge antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho, após a empresa identificar conteúdos suspeitos em sua conta pelos sistemas automatizados de moderação.

A OpenAI afirmou que a conta foi suspensa após violações das regras que incluem promoção de violência e riscos à integridade, mas não reportou o caso às autoridades na época por considerar que as atividades não justificavam encaminhamento policial. Altman reconheceu o erro e disse estar “profundamente arrependido” pela omissão.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais e nacionais vêm cobrando mudanças nas políticas de segurança da empresa para evitar novas tragédias.

A OpenAI usa sistemas automatizados para monitorar e moderar conteúdos em tempo real, restringindo ou banindo contas que violem suas diretrizes, incluindo aquelas que promovem violência, suicídio ou automutilação. Em situações de risco severo, as ações são encaminhadas para revisão humana e, se necessário, compartilhadas com a polícia.

Após o ataque, a empresa afirmou que reforçará suas medidas de segurança e estabeleceu um canal direto de comunicação com as autoridades policiais. Altman declarou que a prioridade da OpenAI será trabalhar em conjunto com governos para prevenir incidentes similares no futuro.

Familiares de uma vítima do ataque já entraram com ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa tinha conhecimento do risco de “evento com mortes em massa” planejado pela suspeita, mas não tomou medidas efetivas para impedir a tragédia.

Essa situação reacende o debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos que podem representar ameaças reais à segurança pública. Especialistas indicam a necessidade de aprimorar os sistemas de detecção e as políticas de reporte a órgãos de segurança.

A OpenAI enfrenta, assim, pressão para revisar suas práticas de monitoramento e para aprimorar a transparência no tratamento de denúncias e atos suspeitos nos seus serviços. O episódio também levanta questões sobre o equilíbrio entre privacidade dos usuários e obrigações legais em contextos de risco.

Em resumo, o pedido de desculpas de Sam Altman ocorre em meio ao impacto de um ataque fatal vinculado a um usuário banido da plataforma, destacando desafios enfrentados por empresas no controle de conteúdos que possam ocasionar danos graves.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, responsabilidade tecnológica, ação judicial, violência online, sistemas automatizados, comunicação com polícia, prevenção de tragédias.

Fonte: g1.globo.com