Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após a morte de oito pessoas em um ataque realizado por uma ex-usuária do ChatGPT em fevereiro deste ano. Altman reconheceu o erro da empresa por não ter alertado a polícia sobre conteúdos preocupantes da suspeita antes do crime.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em sua casa, depois abriu fogo em uma escola local, matando cinco estudantes e um professor, e em seguida cometeu suicídio. A OpenAI afirmou que havia banido a usuária do ChatGPT oito meses antes do ataque, em junho do ano anterior, após identificar violação das regras da plataforma.

Embora a conta tenha sido suspensa, a empresa não comunicou as autoridades canadenses, alegando que as evidências coletadas não eram suficientes para justificar uma denúncia formal. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida”.

O primeiro-ministro classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Ele ressaltou a importância de medidas mais efetivas para evitar futuros ataques. A OpenAI afirmou que pretende fortalecer suas políticas de segurança e colaborará com governos para prevenir novas tragédias.

A empresa utiliza sistemas automatizados para monitorar o conteúdo gerado no ChatGPT, buscando identificar comportamentos que envolvam exploração sexual, automutilação, suicídio e promoção de violência. Em casos considerados graves, o sistema sinaliza as situações para revisão humana e pode encaminhar informações às autoridades competentes.

Após o ataque, as autoridades canadenses se reuniram com a equipe de segurança da OpenAI, que criou um canal direto de comunicação com a polícia local e prometeu revisar seus protocolos de atuação. Altman afirmou que a empresa está comprometida em melhorar as práticas para que eventos desse tipo não se repitam.

Uma família de uma vítima gravemente ferida no ataque entrou com uma ação judicial por negligência contra a OpenAI. O processo alega que a empresa tinha conhecimento do plano da atiradora para cometer um massacre, mas não tomou medidas para impedir o ataque.

O caso destaca os desafios na moderação e o limite entre fiscalização e privacidade em plataformas de inteligência artificial. A OpenAI busca equilibrar a detecção de conteúdos potencialmente perigosos com a proteção dos direitos dos usuários.

A tragédia em Tumbler Ridge reacende o debate sobre a responsabilidade das empresas de tecnologia na prevenção de crimes cometidos por meio de suas ferramentas. A OpenAI enfrenta pressão para aprimorar seus sistemas e colaborar mais efetivamente com órgãos de segurança pública.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, moderação de conteúdo, segurança digital, responsabilidade tecnológica, justiça, ação judicial, inteligência artificial.

Fonte: g1.globo.com