Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido de desculpas foi divulgado em 24 de abril, após críticas das autoridades locais e da província da Colúmbia Britânica.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de atacar uma escola secundária de Tumbler Ridge, matando cinco crianças e um professor. Após o ataque, ela tirou a própria vida.

A OpenAI informou que a conta da suspeita foi banida em junho do ano anterior, cerca de oito meses antes do ataque, após ser identificada por sistemas automáticos de moderação que detectaram conteúdo inadequado. A empresa não notificou as autoridades canadenses na época, alegando que o material não apresentava gravidade suficiente para justificar o encaminhamento policial.

Sam Altman descreveu o não encaminhamento como um erro e expressou arrependimento pelo ocorrido. Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, o executivo afirmou que o pedido de desculpas é um reconhecimento da perda e do dano sofridos pela comunidade de Tumbler Ridge.

David Eby considerou o pedido necessário, mas insuficiente diante da tragédia. Autoridades canadenses exigiram da OpenAI a revisão de seus procedimentos de segurança, ameaçando medidas regulatórias caso mudanças não fossem implementadas.

A OpenAI afirmou que utiliza sistemas automatizados para moderar conteúdos em tempo real, que podem suspender ou banir contas por violações como promoção de violência. Em casos de risco elevado, comportamentos são sinalizados para revisão humana, podendo levar ao compartilhamento de dados com a polícia.

Após o tiroteio, a empresa disse que reforçaria suas medidas de segurança e estabeleceu um canal direto de comunicação com as autoridades policiais. Altman declarou que a OpenAI está comprometida a colaborar com governos para evitar incidentes semelhantes no futuro.

A família de uma criança gravemente ferida no ataque entrou com processo judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento de que a atiradora planejava um ataque com mortes em massa e não tomou providências adequadas.

O caso reabre debate sobre a responsabilidade das plataformas de inteligência artificial na detecção de ameaças e na comunicação com autoridades para prevenção de crimes.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, segurança digital, moderação de conteúdo, denúncia, polícia, Colúmbia Britânica, inteligência artificial, responsabilidade.

Fonte: g1.globo.com