Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque em fevereiro. A usuária, banida do serviço oito meses antes da tragédia, matou oito pessoas antes de tirar a própria vida.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor. O caso mobilizou autoridades canadenses e gerou questionamentos sobre a responsabilidade da OpenAI.

A empresa informou que identificou e baniu a conta da suspeita em junho do ano anterior, usando seus sistemas automáticos de moderação. No entanto, a OpenAI não comunicou os fatos à polícia porque, segundo a empresa, as ações da usuária não foram consideradas graves o suficiente para justificar um alerta às autoridades.

Em carta divulgada em 24 de abril, Altman declarou estar “profundamente arrependido” por não ter acionado a polícia na ocasião. Ele explicou que o pedido de desculpas demorou mais de dois meses para ser feito por respeito ao luto dos moradores de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”. Autoridades locais também exigem mudanças nas políticas de segurança da OpenAI para evitar eventos semelhantes no futuro.

A empresa afirmou que utiliza sistemas automáticos de detecção em tempo real para identificar conteúdos que violam suas regras, incluindo promoção de violência e ameaças. Esses sistemas podem sinalizar casos para revisão humana e, em situações graves, compartilhar informações com a polícia.

Após o ataque, a OpenAI foi convocada pelas autoridades canadenses, que ameaçaram aplicar medidas regulatórias caso a empresa não aprimorasse seus procedimentos. A companhia anunciou que reforçará suas medidas de segurança e criou um canal de comunicação direta com as forças policiais.

Altman reiterou o compromisso de trabalhar com governos para impedir que incidentes como o de Tumbler Ridge se repitam. Enquanto isso, a família de uma das vítimas gravemente feridas entrou com uma ação judicial contra a OpenAI, alegando negligência pela falta de ação da empresa.

Eles afirmam que a OpenAI tinha conhecimento das intenções da atiradora, que planejava um “evento com mortes em massa”, mas não tomou providências para impedir o ataque.

A tragédia em Tumbler Ridge reacende o debate sobre os limites da inteligência artificial e a responsabilidade das empresas de tecnologia na prevenção de crimes e na segurança pública.

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, policiamento, negligência, segurança digital, inteligência artificial, ataque em escola, responsabilização.

Fonte: g1.globo.com