Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT antes do ataque que matou oito pessoas em fevereiro. O pedido veio após críticas do governo local e da família de uma vítima sobre a resposta da empresa à ameaça.

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de atirar em uma escola secundária da cidade, matando cinco estudantes e um professor. Após o ataque, a atiradora cometeu suicídio. A OpenAI revelou que removeu a conta da suspeita do ChatGPT em junho do ano anterior após detectar violações nas normas da plataforma.

Segundo Altman, a OpenAI não comunicou as autoridades canadenses na época porque a atividade da usuária não foi considerada suficientemente grave para justificar um alerta à polícia. A empresa utiliza sistemas automatizados para monitorar e restringir contas que apresentam comportamento violento, suicida ou de exploração, com revisão humana em casos de risco elevado.

O premier da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses se reuniram com a equipe de segurança da OpenAI após o tiroteio e pressionaram a empresa a aprimorar suas medidas. A OpenAI informou que adotaria novas estratégias, incluindo canais diretos de comunicação com a polícia.

Altman afirmou que o pedido de desculpas demorou mais de dois meses porque queria respeitar o período de luto da comunidade afetada. Em sua carta, disse que a OpenAI está comprometida em colaborar com todos os níveis do governo para evitar novos incidentes desse tipo.

Familiares de uma menina que ficou gravemente ferida durante o tiroteio entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas adequadas para impedir a tragédia.

A OpenAI segue utilizando sistemas automatizados de moderação para identificar conteúdos agressivos, com possibilidade de banimento de contas envolvidas em violações. Contudo, o caso trouxe questionamentos sobre quando e como a empresa deve acionar as autoridades diante de potenciais ameaças.

A empresa declarou que reforçará seus protocolos de segurança para responder com mais eficiência a riscos identificados. A discussão sobre responsabilidade e regulação de inteligência artificial ganhou mais destaque após o episódio trágico em Tumbler Ridge.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, violência online, moderação de conteúdo, segurança digital, policiamento de IA, ataque em escola, responsabilidade de empresa, ação judicial

Fonte: g1.globo.com