O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia após identificar conteúdos preocupantes de uma usuária do ChatGPT, que cometeu um ataque com oito mortes em fevereiro. A ação gera debate sobre as responsabilidades das empresas de tecnologia na prevenção de crimes a partir do monitoramento de suas plataformas.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola local onde matou cinco crianças e um professor, e depois tirou a própria vida. A suspeita foi banida do ChatGPT oito meses antes da tragédia, em junho, após seus conteúdos ativarem os sistemas de moderação da OpenAI.

A empresa afirmou que não notificou a polícia na época porque as violações observadas não foram avaliadas como graves o suficiente para justificar um alerta às autoridades. Sam Altman reconheceu o erro e disse estar “profundamente arrependido” pela falha, em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, divulgada em 24 de abril.

O primeiro-ministro classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais e familiares de vítimas questionam o papel da OpenAI, especialmente diante das consequências do ataque. Familiares de uma menina gravemente ferida iniciaram uma ação judicial por negligência contra a empresa, alegando que ela tinha conhecimento do planejamento do “evento com mortes em massa” e não tomou medidas adequadas.

A OpenAI utiliza sistemas automatizados para moderar conteúdos e identificar comportamentos de alto risco em tempo real. Em casos graves, a companhia pode encaminhar informações às autoridades policiais. Após o ataque, a empresa afirmou que vai reforçar as medidas de segurança e criar canais diretos de comunicação com a polícia.

Na carta, Altman ainda destacou o compromisso da OpenAI em colaborar com governos para evitar episódios semelhantes. Ele explicou que o atraso no pedido de desculpas visou respeitar o período de luto dos moradores de Tumbler Ridge.

A situação reacende a discussão sobre os limites e responsabilidades na moderação de inteligência artificial, sobretudo em cenários que envolvem riscos à segurança pública. Enquanto isso, a investigação sobre o ocorrido e as medidas da OpenAI continuam em desenvolvimento.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, moderação de conteúdo, responsabilidade tecnológica, segurança digital, ataque em escola, denúncia automática, ação judicial, inteligência artificial, Colúmbia Britânica, prevenção de crimes, tecnologia e segurança.

Fonte: g1.globo.com