Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT que cometeu um ataque com morte em massa em fevereiro. A atitude ocorreu após a ex-usuária ser banida do chatbot oito meses antes do crime.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa, depois abriu fogo em uma escola local, onde matou cinco estudantes e um professor antes de tirar a própria vida. A tragédia deixou um total de dez mortos e 25 feridos.
A OpenAI identificou a conta da suspeita em seus sistemas de detecção de abuso em junho do ano anterior e a baniu por violação das regras da plataforma. A empresa afirmou que não comunicou as autoridades canadenses, pois a atividade da usuária não foi considerada grave o suficiente para justificar o encaminhamento.
Em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” por não ter avisado a polícia sobre a conta banida. O pedido de desculpas foi divulgado em 24 de abril, mais de dois meses após o ataque, justificando o atraso pelo respeito ao luto da comunidade local.
David Eby classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”. O governo canadense convocou a equipe de segurança da OpenAI e ameaçou ações regulatórias caso não houvesse aprimoramento nas medidas de controle de conteúdo.
A OpenAI usa sistemas automatizados que analisam mensagens em tempo real, podendo restringir ou banir contas por violação de regras como promoção de violência, automutilação e exploração sexual. Em situações de alto risco, conteúdos são revisados por humanos e dados podem ser compartilhados com as autoridades.
Após o ataque, a empresa anunciou que fortaleceu seus protocolos de segurança e criou um canal direto de comunicação com órgãos policiais. Altman ressaltou o compromisso da OpenAI em trabalhar com governos para evitar eventos semelhantes no futuro.
A família de uma vítima que sobreviveu ao tiroteio entrou com processo por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do plano de ataque da atiradora, mas não adotou medidas para impedir a tragédia.
A situação gerou debates sobre a responsabilidade das plataformas de inteligência artificial na prevenção de crimes e a eficácia dos sistemas de monitoramento e denúncia.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade das plataformas, violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
