O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de comunicação da empresa com a polícia sobre conteúdos preocupantes gerados por uma ex-usuária do ChatGPT, que matou oito pessoas em fevereiro. O pedido foi feito nesta sexta-feira (24), mais de dois meses após o ataque.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola local e atirou contra alunos e um professor, causando mais seis mortes antes de tirar a própria vida. A atiradora havia sido banida do ChatGPT oito meses antes, em junho do ano anterior, por conteúdo considerado inadequado pelos sistemas da OpenAI.
A OpenAI informou que a conta da usuária foi identificada e bloqueada por uso de linguagem que violava as regras da plataforma. No entanto, a empresa não comunicou a polícia canadense, alegando que os conteúdos não configuravam uma ameaça suficientemente grave para justificar o repasse às autoridades.
Sam Altman declarou estar “profundamente arrependido” pela ação, ou falta dela, e afirmou que a empresa pretende trabalhar com governos para evitar incidentes similares. Ele explicou que o atraso no pedido de desculpas também teve como objetivo respeitar o período de luto da comunidade afetada.
O primeiro-ministro da Colúmbia Britânica, David Eby, qualificou a retratação da OpenAI como necessária, mas “grosseiramente insuficiente”, ressaltando a gravidade da tragédia e a importância de medidas mais efetivas.
A OpenAI possui sistemas automáticos que monitoram conteúdos em tempo real no ChatGPT, com regras para restringir ou banir usuários que promovam violência, suicídio ou abuso sexual. Em situações consideradas de alto risco, os casos são revisados manualmente e, se confirmada a ameaça, as informações podem ser compartilhadas com autoridades policiais.
Após o ataque, as autoridades canadenses solicitaram revisões no protocolo de segurança da OpenAI e indicaram que medidas regulatórias poderiam ser adotadas caso não houvesse mudanças. A empresa anunciou que intensificará suas práticas e estabeleceu um canal de comunicação direto com a polícia local.
Familiares de uma das vítimas, uma menina ferida no tiroteio, entraram com uma ação judicial contra a OpenAI por negligência. O processo afirma que a empresa tinha conhecimento do planejamento do ataque, mas não tomou providências para impedir o crime.
A OpenAI reafirmou seu comprometimento em aprimorar a detecção de riscos por meio de sistemas tecnológicos e parcerias com órgãos governamentais para prevenir futuros eventos violentos.
—
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, ataque escolar, segurança digital, moderação de conteúdo, denúncia de violência, responsabilidade corporativa.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
