Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que resultou em oito mortes em fevereiro. A empresa identificou e baniu a usuária oito meses antes do crime, mas não comunicou as autoridades.

A suspeita, uma mulher transgênero de 18 anos, matou a mãe e o meio-irmão em casa no dia 10 de fevereiro. Em seguida, ela foi a uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. Ao todo, o ataque deixou dez mortos e 25 feridos.

A OpenAI informou que, em junho do ano anterior, detectou a conta da suspeita por meio de seus sistemas automatizados de moderação e restringiu o acesso ao ChatGPT. A empresa declarou que não avisou a polícia porque a atividade da usuária não parecia grave o suficiente para justificar um encaminhamento às autoridades.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falha em notificar a polícia. Ele justificou o atraso no pedido de desculpas para respeitar o luto da comunidade de Tumbler Ridge. Eby respondeu que o pedido é “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explica que utiliza sistemas automatizados que monitoram conteúdos em tempo real. Eles identificam violações das diretrizes, como exploração sexual, incentivo à automutilação, suicídio ou promoção de violência. Quando casos graves são detectados, a situação passa para revisão humana e pode gerar o compartilhamento de informações com as autoridades.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias, caso não houvesse aprimoramento nas respostas. A empresa disse que reforçaria suas políticas de segurança e estabeleceu um canal direto de comunicação com a polícia.

Altman ressaltou que a OpenAI está comprometida em trabalhar com governos para evitar novas tragédias. “Nosso foco continuará sendo colaborar para garantir que algo assim nunca aconteça novamente”, afirmou na carta.

Familiares de uma menina ferida no ataque ajuizaram uma ação por negligência contra a OpenAI, alegando que a empresa tinha conhecimento do plano da atiradora para “evento com mortes em massa”, mas não tomou providências.

A tragédia reacende debate sobre a responsabilidade das plataformas de inteligência artificial na identificação e prevenção de ameaças à segurança pública.

—

Palavras-chave: OpenAI, Sam Altman, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, polícia, moderação automática, Colúmbia Britânica, responsabilidade, segurança pública, alerta, ação judicial, inteligência artificial.

Fonte: g1.globo.com