O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. Altman reconheceu o erro em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em sua casa antes de atacar uma escola local, onde matou cinco crianças e um professor, e depois cometeu suicídio. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu de seus sistemas, mas não reportou o caso às autoridades.

A empresa justificou a ausência de denúncia alegando que as atividades da usuária não foram consideradas graves o suficiente para acionar as forças policiais. Altman afirmou estar “profundamente arrependido” pela falha e ressaltou que o pedido de desculpas buscou respeitar o período de luto da comunidade.

A Colúmbia Britânica considera o pedido de desculpas “grosseiramente insuficiente”, segundo o primeiro-ministro David Eby, que exige medidas mais concretas para evitar novos episódios. Após o ataque, autoridades canadenses se reuniram com a equipe de segurança da OpenAI para discutir aprimoramentos nos protocolos da empresa.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas que violem suas regras, como a promoção de violência, suicídio ou autoagressão. Em casos de ameaça considerada crível, dados são compartilhados com as autoridades policiais para investigação.

Desde o incidente, a empresa anunciou a criação de um canal de comunicação direto com a polícia e afirmou que continuará trabalhando com diversas esferas do governo para fortalecer a segurança e evitar tragédias semelhantes. Altman declarou que a prioridade será prevenir novos crimes causados por usuários da plataforma.

Além do pedido de desculpas, a OpenAI enfrenta uma ação judicial movida pela família de uma das vítimas feridas no ataque. Os responsáveis afirmam que a empresa tinha conhecimento do plano de violência em massa da atiradora, mas não tomou medidas para impedir o crime.

A tragédia em Tumbler Ridge reforça o debate sobre o papel das empresas de tecnologia na detecção e prevenção de atos violentos cometidos por usuários de suas plataformas, além de levantar questionamentos sobre os limites da moderação e a responsabilidade legal dessas companhias.

—

**Palavras-chave relacionadas:** Sam Altman, OpenAI, ChatGPT, tiroteio, Tumbler Ridge, Colúmbia Britânica, violência em massa, prevenção, moderação automática, ação judicial, segurança digital, tecnologia e responsabilidade.

Fonte: g1.globo.com