Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que cometeu um ataque em fevereiro, deixando oito mortos. A empresana afirmou que a conta da suspeita foi banida oito meses antes do incidente, mas decidiu não comunicar as autoridades na época.
O ataque ocorreu em 10 de fevereiro, quando uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, e depois atirou contra estudantes e um professor em uma escola local, antes de tirar a própria vida. No total, cinco crianças e um professor morreram no local da escola.
Em junho do ano anterior, a OpenAI identificou a usuária por meio de seus sistemas de detecção automática, que restringem ou banem contas que violam regras sobre violência, automutilação, suicídio e outros abusos. Apesar do banimento da conta, a empresa não informou a polícia canadense, alegando que o conteúdo não configurava ameaça grave o suficiente para justificar uma notificação.
Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman expressou arrependimento pela decisão da empresa e justificou o atraso no pedido de desculpas para respeitar o luto da comunidade de Tumbler Ridge. O premiê classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”.
Autoridades canadenses convocaram a equipe de segurança da OpenAI após a tragédia e ameaçaram ações regulatórias caso a empresa não reforçasse seus protocolos. Em resposta, a OpenAI informou que implementará medidas adicionais de segurança e criou um canal direto de comunicação com a polícia local.
Segundo Altman, a empresa está comprometida em trabalhar junto aos governos para evitar que incidentes do tipo ocorram novamente. No documento, ele reconheceu a gravidade da perda e o impacto na comunidade afetada.
Familiares de uma das vítimas, uma menina gravemente ferida no tiroteio, entraram com uma ação judicial por negligência contra a OpenAI. O processo alega que a empresa tinha conhecimento dos planos da atiradora para cometer um ataque em massa e não tomou medidas para impedir o crime.
A OpenAI utiliza sistemas automatizados que monitoram o conteúdo gerado no ChatGPT em tempo real e podem restringir ou banir contas que violam os termos de uso, incluindo a promoção de violência ou danos a si ou a terceiros. Em situações consideradas de alto risco, o conteúdo é revisado por humanos e pode ser compartilhado com autoridades policiais.
O caso reforça o debate sobre a responsabilidade de empresas que operam plataformas de inteligência artificial na prevenção de crimes e na comunicação às autoridades sobre potenciais ameaças. A OpenAI enfrenta agora o desafio de aprimorar suas políticas de moderação e cooperação com órgãos de segurança pública.
—
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque no Canadá, moderação de conteúdo, responsabilidade de IA, segurança digital, ação judicial OpenAI
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
