Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi feito mais de dois meses após a tragédia, motivado pelo desejo de respeitar o luto da comunidade local.

No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária da cidade, matando cinco alunos e um professor, e depois se suicidando. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do chatbot oito meses antes do ataque.

Apesar de ter banido a conta, a empresa não informou as autoridades canadenses, alegando que a atividade detectada não era grave o suficiente para justificar uma denúncia. Sam Altman reconheceu o erro em sua carta ao primeiro-ministro da Colúmbia Britânica, David Eby, afirmando estar “profundamente arrependido” por não ter acionado a polícia.

David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, a OpenAI passou a reforçar suas medidas de segurança e criou um canal direto de comunicação com as forças policiais locais.

A empresa explica que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, restringindo ou banindo contas que violem regras relacionadas a exploração sexual, apoio à automutilação, suicídio e violência. Em casos graves, os sistemas sinalizam comportamentos para revisão humana e podem compartilhar informações com as autoridades.

Após o episódio, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar medidas regulatórias caso a empresa não aprimorasse suas políticas. Sam Altman destacou o compromisso da OpenAI em trabalhar com governos para evitar que tragédias semelhantes se repitam.

A família de uma menina ferida no ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado medidas mesmo sabendo dos planos da atiradora. Eles afirmam que a empresa tinha conhecimento de uma intenção de “evento com mortes em massa” e não agiu.

O episódio traz à tona debates sobre a responsabilidade das plataformas digitais em monitorar e denunciar usuários que apresentam riscos à segurança pública. A OpenAI tenta equilibrar sua política de privacidade com a necessidade de prevenir crimes graves, enquanto lida com as consequências do ataque em Tumbler Ridge.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque a tiros, violência online, moderação de conteúdo, segurança digital, ação judicial, proteção policial.

Fonte: g1.globo.com