Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. A empresa identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não notificou as autoridades sobre o risco representado.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária local, onde matou cinco estudantes e um professor, e em seguida cometeu suicídio. Após o ataque, a OpenAI informou que havia banido a conta da usuária em junho, após identificar violações das regras de uso.

Sam Altman afirmou que a empresa não acionou as autoridades na época porque não considerou a atividade grave o suficiente para justificar um comunicado à polícia. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman disse estar “profundamente arrependido” pela falha e reconheceu a dor causada à comunidade.

O primeiro-ministro David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. As autoridades canadenses demandaram que a OpenAI melhorasse seus processos de segurança, com a empresa anunciando planos para reforçar o monitoramento e estabelecer um canal direto de comunicação com a polícia.

A OpenAI utiliza sistemas automatizados para monitorar conteúdos em tempo real, restringindo ou banindo contas que violem suas regras, como exploração sexual, incentivo ao suicídio e promoção de violência. Em casos de risco elevado, os sistemas sinalizam para revisão humana e, se identificadas ameaças críveis, dados podem ser compartilhados com a polícia.

Após o ataque, a família de uma das vítimas feridas entrou com uma ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento dos planos da atiradora para um evento violento, mas não agiu para impedir.

Sam Altman justificou o atraso no pedido de desculpas público, afirmando que queria respeitar o luto da comunidade de Tumbler Ridge. Ele afirmou que a OpenAI está comprometida a trabalhar com governos para evitar futuras tragédias semelhantes.

A situação reforça o debate sobre a responsabilidade das empresas de tecnologia em monitorar e comunicar conteúdos de risco gerados por suas plataformas, especialmente em casos que envolvam ameaças à segurança pública.

—

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, responsabilidade de empresas de tecnologia, moderação de conteúdo, segurança digital, ação judicial, violência online, monitoramento de riscos.

Fonte: g1.globo.com