Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A admissão ocorreu em carta enviada em abril, mais de dois meses após a tragédia.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois dirigiu-se a uma escola secundária local, onde matou cinco alunos e um professor antes de suicidar-se. A OpenAI afirmou que havia banido a usuária do ChatGPT em junho do ano anterior, após identificar atividades suspeitas em sua conta. No entanto, a empresa decidiu não comunicar as autoridades na época por considerar que a situação não justificava um alerta policial.

Sam Altman declarou estar “profundamente arrependido” pela falha em reportar a conta às autoridades. Segundo ele, o pedido formal de desculpas foi feito posteriormente para respeitar o período de luto da comunidade afetada. O primeiro-ministro da Colúmbia Britânica, David Eby, qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir usuários por violações, como promoção de violência ou apoio ao suicídio. Quando um comportamento de alto risco é detectado, o caso deve passar por revisão humana para possível notificação às autoridades. Após o ataque, autoridades canadenses convocaram a empresa para discutir as medidas de segurança e ameaçaram ações regulatórias caso não houvesse melhorias. A OpenAI se comprometeu a reforçar seus protocolos e criar um canal direto de comunicação com a polícia.

Em sua carta, Altman afirmou que a empresa está empenhada em trabalhar com governos para evitar novas tragédias. Enquanto isso, a família de uma das vítimas apresentou uma ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento do potencial para um “evento com mortes em massa”, mas não tomou providências.

O caso levanta questões sobre a capacidade e limites das plataformas digitais em monitorar e interceder diante de sinais de violência e risco iminente. As autoridades e especialistas seguem avaliando formas de garantir maior segurança sem comprometer a privacidade e o uso responsável das tecnologias.

Palavras-chave relacionadas: OpenAI, Sam Altman, Tumbler Ridge, ataque a tiros, ChatGPT, violência em massa, moderação de conteúdo, segurança digital, responsabilidade tecnológica, ação judicial, Colúmbia Britânica, denúncia de violência.

Fonte: g1.globo.com