Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido ocorreu após críticas do governo local e questionamentos quanto à atuação da empresa diante dos sinais detectados nos meses anteriores ao crime.

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária de Tumbler Ridge e disparar contra alunos e um professor, deixando seis mortos no local. Em seguida, ela tirou a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT por violações das regras da plataforma, mas não comunicou as autoridades na época.

A empresa afirmou que o motivo para não reportar o caso à polícia canadense foi que a atividade identificada não era considerada grave o suficiente para justificar um alerta formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela decisão. O político avaliou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real e restringir contas que violam regras contra exploração sexual, apoio à automutilação, suicídio e promoção de violência. Em situações de risco elevado, as denúncias passam por revisão humana, e dados podem ser compartilhados com a polícia caso haja uma ameaça crível.

Após o tiroteio, autoridades canadenses convocaram representantes da OpenAI e ameaçaram medidas regulatórias caso não fossem adotadas mudanças nas políticas de segurança. Em resposta, a empresa informou que ampliaria suas ações de monitoramento e criou um canal direto de comunicação com as forças policiais.

Altman destacou que a OpenAI está empenhada em evitar que tragédias semelhantes aconteçam no futuro e pretende colaborar com governos para aprimorar os mecanismos de prevenção. A família de uma criança gravemente ferida no ataque entrou com uma ação judicial contra a empresa, alegando negligência e que a companhia tinha conhecimento dos planos da atiradora para um evento de mortes em massa, sem ter tomado medidas efetivas.

O episódio levanta questões sobre a responsabilidade das plataformas de inteligência artificial na detecção e comunicação de ameaças potencialmente violentas, além do papel das autoridades na prevenção de crimes. A OpenAI enfrenta agora o desafio de equilibrar a segurança dos usuários com a proteção de dados e privacidade, enquanto implementa medidas para mitigar riscos futuros.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, ataque em escola, moderação de conteúdo, segurança digital, violência nas redes, responsabilidade tecnológica, pedido de desculpas, ação judicial OpenAI.

Fonte: g1.globo.com