Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de alerta à polícia sobre conteúdos preocupantes publicados por uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro deste ano, deixando oito mortos.
No ataque, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola, onde matou cinco alunos e um professor, e depois se suicidou. A OpenAI identificou e baniu a conta da suspeita oito meses antes da tragédia, em junho, por violações às regras da plataforma.
Altman afirmou estar “profundamente arrependido” por não ter informado as autoridades canadenses quando a conta foi banida. A empresa alegou que o comportamento da usuária naquele momento não configurava ameaça grave suficiente para justificar o repasse a órgãos de segurança.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas necessário, mas insuficiente. Autoridades locais têm cobrado medidas mais efetivas da OpenAI, que afirmou ter reforçado seus sistemas de moderação e criado um canal direto de comunicação com a polícia.
A OpenAI utiliza sistemas automáticos de detecção que analisam conteúdos em tempo real e podem banir usuários que violam regras, incluindo promoção de violência e automutilação. Em casos de ameaça grave, a empresa pode encaminhar informações às autoridades para investigação.
Depois da tragédia, o governo canadense convocou representantes da OpenAI para discutir medidas regulatórias. Sam Altman garante que a empresa pretende colaborar com governos para evitar novos incidentes.
Enquanto isso, a família de uma vítima gravemente ferida entrou com processo judicial contra a OpenAI, acusando-a de negligência e de não ter agido diante da ameaça prevista no comportamento da suspeita.
A situação evidencia o desafio das empresas de tecnologia em equilibrar a moderação de conteúdos com a prevenção de crimes graves, ao mesmo tempo em que enfrentam pressão por maior responsabilidade e transparência.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, Canadá, tiroteio em massa, moderação de conteúdo, segurança digital, responsabilidade corporativa, ataque a tiros, Tumbler Ridge.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
