Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, após a tragédia que ocorreu em uma escola local.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa. Em seguida, ela foi até uma escola secundária de Tumbler Ridge, onde matou cinco estudantes e um professor antes de se suicidar. A polícia investiga o ataque como um tiroteio em massa.

A OpenAI informou que identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT por violações das regras da plataforma. A empresa não acionou as autoridades na época, pois considerou que as atividades registradas não tinham gravidade suficiente para justificar um comunicado à polícia.

Sam Altman afirmou estar “profundamente arrependido” por não ter informado as forças de segurança sobre a conta banida e ressaltou que o pedido de desculpas busca reconhecer o dano causado à comunidade de Tumbler Ridge. Ele justificou o atraso na manifestação para respeitar o período de luto dos moradores.

O primeiro-ministro David Eby afirmou que o pedido de desculpas foi “necessário, mas ainda assim grosseiramente insuficiente”. Autoridades locais e provinciais cobram melhorias nas políticas de segurança e prevenção por parte da OpenAI e de outras empresas de tecnologia.

A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real e podem restringir ou banir contas que violem suas regras. Entre as proibições estão a promoção de violência, apoio à automutilação e ao suicídio, além de exploração sexual. Quando um comportamento de alto risco é identificado, a empresa pode encaminhar os dados para revisão humana e, em casos graves, compartilhar informações com as autoridades.

Após o ataque, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou adotar medidas regulatórias caso não houvesse aprimoramento nos processos de monitoramento. A empresa anunciou que fortalecerá suas políticas e criou um canal direto de comunicação com a polícia local.

A família de uma menina que sobreviveu ao tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um ataque com mortes em massa e não tomou nenhuma providência para evitar a tragédia.

Em sua carta, Altman afirmou que a OpenAI está comprometida em trabalhar com governos de todos os níveis para evitar novos incidentes similares e reforçar a segurança da plataforma. Ele apontou que buscará novas formas de identificar e agir contra ameaças iminentes detectadas em seus serviços.

O caso levanta questionamentos sobre o papel das empresas de inteligência artificial na prevenção de crimes e até que ponto devem monitorar e reportar comportamentos suspeitos dos usuários. Especialistas apontam a dificuldade de equilibrar a privacidade com a segurança pública nesse contexto.

A tragédia em Tumbler Ridge evidencia os desafios enfrentados por provedores de tecnologia para lidar com conteúdos abusivos e prevenir ataques motivados por discursos violentos ou planejados em plataformas digitais.

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, ataque a tiros, denúncia, segurança, moderação de conteúdo, responsabilidade, ação judicial.

Fonte: g1.globo.com