Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado as autoridades sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito em uma carta divulgada nesta sexta-feira (24).
Em 10 de fevereiro, uma jovem de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local e disparou contra estudantes e um professor, matando seis pessoas no total antes de tirar a própria vida. A atiradora havia sido banida do ChatGPT oito meses antes do ataque, em junho, após seus conteúdos levantarem suspeitas nos sistemas de detecção da OpenAI.
A empresa afirmou que não notificou a polícia na época porque considerou que as mensagens não configuravam ameaça grave suficiente. Altman disse estar “profundamente arrependido” por essa decisão e destacou que as palavras não são suficientes para reparar as perdas da comunidade afetada. Ele também explicou que evitou um pronunciamento imediato para respeitar o luto dos moradores.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI após o ataque e exigiram melhorias nas medidas para evitar incidentes semelhantes.
A OpenAI utiliza sistemas automatizados que analisam conteúdos em tempo real e podem banir usuários por violações, incluindo apoio à violência, suicídio e automutilação. Em casos graves, essas violações são revisadas por humanos, e a empresa pode compartilhar informações relevantes com a polícia.
Após a tragédia, a OpenAI anunciou que reforçaria suas medidas de segurança e estabeleceu um canal direto de comunicação com as autoridades policiais. Altman afirmou que a empresa está comprometida em colaborar com governos para evitar novas tragédias.
Familiares de uma das vítimas feridas no tiroteio entraram com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do plano de violência em massa da atiradora e não tomou medidas preventivas.
O caso gerou debates sobre a responsabilidade das empresas de tecnologia no monitoramento e no reporte de conteúdos que possam indicar riscos à segurança pública.
—
Palavras-chave: OpenAI, Sam Altman, Tumbler Ridge, tiroteio, ChatGPT, ataque em massa, violência, policiamento, segurança digital, responsabilidade tecnológica, denúncia de violência, Colúmbia Britânica, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
