O CEO da OpenAI, Sam Altman, pediu desculpas à comunidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. A empresa havia banido a conta da suspeita oito meses antes, mas não comunicou as autoridades na época.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, causando a morte de cinco crianças e um professor, e posteriormente tirou a própria vida. A OpenAI identificou sinais de abuso na conta da suspeita em junho do ano anterior e a removeu do serviço.
Sam Altman afirmou estar “profundamente arrependido” por não ter compartilhado as informações com a polícia canadense, apesar de a empresa entender que as ameaças não eram graves o suficiente para justificar um encaminhamento imediato. Ele declarou que o pedido de desculpas foi feito somente agora para respeitar o luto da comunidade.
O primeiro-ministro da província da Colúmbia Britânica, David Eby, considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais também pressionam a OpenAI a tomar medidas mais rigorosas para evitar casos semelhantes.
A OpenAI utiliza sistemas automatizados de moderação para detectar conteúdos proibidos em tempo real, incluindo exploração sexual, incentivo à automutilação, suicídio e violência. Em situações graves, esses sistemas sinalizam os casos para revisão humana e podem compartilhar dados com a polícia.
Depois do ataque, representantes da segurança da OpenAI se reuniram com autoridades canadenses, que exigiram melhorias e ameaçaram ações regulatórias caso os protocolos não fossem reforçados. A empresa informou que criou um canal direto de comunicação com as forças policiais e intensificará suas medidas de segurança.
Em carta divulgada na última sexta-feira (24), Altman ressaltou o compromisso da OpenAI em colaborar com governos para evitar que eventos trágicos se repitam. Ele afirmou que o foco continuará na melhoria contínua dos processos de segurança e na prevenção de riscos futuros.
Paralelamente, a família de uma vítima ferida no tiroteio entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do plano da atiradora para um “evento com mortes em massa” e não tomou providências.
Esse episódio reacende debates sobre a responsabilidade das empresas de tecnologia no monitoramento e na prevenção de ameaças à segurança pública em plataformas digitais.
—
**Palavras-chave relacionadas:** Sam Altman, OpenAI, ChatGPT, tiroteio Tumbler Ridge, ataque em escola, segurança digital, moderação automática, denúncia de violência, responsabilidade corporativa, ação judicial tecnologia.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
