Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros que resultou na morte de oito pessoas. O pedido foi feito após críticas do governo local sobre a falta de comunicação da empresa com as autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária e disparar contra alunos e um professor, causando seis mortes e depois se suicidando. A OpenAI identificou em junho do ano anterior a conta da suspeita em seus sistemas de detecção de abuso e a bloqueou. No entanto, a empresa não comunicou a polícia canadense, pois entendeu que a atividade registrada não justificava um alerta formal às autoridades.

Altman afirmou estar “profundamente arrependido” pela ausência desse aviso e reconheceu a gravidade do ocorrido. Ele justificou a demora no pedido de desculpas, feito mais de dois meses após a tragédia, dizendo que havia decidido respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automáticos de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas que violem regras, como promoção de violência, suicídio ou abuso. Em casos considerados de alto risco, esses sistemas sinalizam para revisão humana e, se identificada uma ameaça real, as informações podem ser compartilhadas com a polícia.

Após o ataque, autoridades canadenses convocaram representantes da OpenAI e ameaçaram ações regulatórias caso as medidas de segurança não fossem reforçadas. Em resposta, a empresa afirmou ter criado um canal direto de comunicação com a polícia e prometeu aprimorar seus mecanismos para prevenção de futuros incidentes.

Além do pedido de desculpas, Altman declarou o compromisso da OpenAI em colaborar com governos para evitar tragédias semelhantes. A empresa busca implementar melhorias no monitoramento e na denúncia de comportamentos de risco detectados no ChatGPT.

Familiares de uma menina ferida no ataque entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a empresa estava ciente dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas adequadas para impedir a tragédia.

O caso levanta debates sobre a responsabilidade das plataformas digitais em monitorar e comunicar sinais de alerta em conversas com inteligência artificial, equilibrando privacidade e segurança pública.

—

Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio Canadá, Tumbler Ridge, denúncia, segurança digital, moderação de conteúdo, violência em massa, inteligência artificial, responsabilidade digital, ação judicial

Fonte: g1.globo.com