Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque realizado por uma ex-usuária do ChatGPT que resultou na morte de oito pessoas em fevereiro. Altman expressou arrependimento por a empresa não ter alertado a polícia sobre conteúdos preocupantes detectados no chatbot antes da tragédia.

No dia 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária local, matando cinco alunos e um professor, e em seguida cometeu suicídio. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, após a OpenAI identificar violações em sua conta por meio de seus sistemas automatizados de moderação.

A OpenAI informou que não comunicou a polícia na época da suspensão, pois entendeu que as atividades não eram graves o suficiente para justificar um alerta às autoridades. Em carta enviada ao premier da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido por não termos alertado as autoridades policiais” e disse que o pedido de desculpas visa reconhecer o dano e a perda sofridos pela comunidade.

David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a importância de ações concretas para prevenir novos casos similares e anunciou uma pressão regulatória sobre empresas de tecnologia.

Os sistemas da OpenAI analisam conteúdos em tempo real para identificar violações como exploração sexual, apologia à automutilação, suicídio e violência. Em situações graves, alertas são encaminhados para revisão humana, e se uma ameaça credível for identificada, dados da conta podem ser compartilhados com autoridades policiais.

Após o ataque, a OpenAI se comprometeu a reforçar suas medidas de segurança e criou um canal de comunicação direta com a polícia canadense para facilitar futuras denúncias. Altman afirmou que a empresa busca evitar que tragédias como essa se repitam, trabalhando em conjunto com diferentes níveis governamentais.

Ao mesmo tempo, familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para uma “matança em massa” e não tomou providências adequadas.

O caso levanta questões sobre a responsabilidade das empresas de tecnologia no monitoramento de conteúdos e na comunicação com autoridades, especialmente em situações que podem implicar risco à segurança pública. Autoridades canadenses anunciaram medidas regulatórias para fortalecer a supervisão do setor e prevenir ataques futuros.

Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, ação judicial, responsabilidade tecnológica, violência, denúncias policiais.

Fonte: g1.globo.com