Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros e matou oito pessoas. O pedido de desculpas foi divulgado em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor, e depois tirou a própria vida. A suspeita já havia sido banida do ChatGPT em junho do ano anterior, após a OpenAI identificar conteúdos preocupantes em sua conta por meio dos sistemas de detecção de abuso.

A OpenAI não notificou as autoridades canadenses na época por considerar que a atividade da usuária não era grave o suficiente para justificar um alerta policial. Na carta, Altman afirmou estar “profundamente arrependido” pela falha e destacou que, embora as palavras não apaguem o ocorrido, o pedido de desculpas é necessário diante do impacto da tragédia.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. A crítica reflete a insatisfação das autoridades locais com a atuação da empresa diante dos sinais de alerta.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem banir usuários por violações às regras, que incluem exploração sexual, promoção de automutilação, suicídio e violência. Em casos graves, os sistemas sinalizam comportamentos de alto risco para revisão humana e, se uma ameaça crível for identificada, a empresa pode compartilhar dados com as autoridades policiais.

Após o ataque, as autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e ameaçaram ação regulatória caso não houvesse mudanças. Em resposta, a empresa afirmou que reforçará suas medidas de segurança e criou um canal de contato direto com a polícia para futuros casos.

Altman destacou o compromisso da OpenAI em trabalhar com diferentes níveis de governo para evitar que incidentes similares se repitam. Segundo ele, o foco é aprimorar os mecanismos de detecção e prevenção de riscos.

A família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa sabia dos planos da atiradora para um ataque em massa, mas não tomou medidas para evitar o crime.

O episódio reacendeu o debate sobre o papel das empresas de tecnologia na moderação de conteúdos e sobre a responsabilidade em casos de violência envolvendo usuários de suas plataformas.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, violência online, segurança digital, denúncia de ameaças, responsabilidade tecnológica.

Fonte: g1.globo.com