Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um tiroteio. A empresa havia identificado e banido a conta da suspeita oito meses antes do ataque, mas não comunicou as autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou que a conta da suspeita foi banida em junho do ano anterior após detecção de comportamento abusivo pelos sistemas automatizados da empresa.
Segundo Altman, a empresa não reportou a situação à polícia porque a atividade analisada não foi considerada grave o suficiente para um encaminhamento. O CEO afirmou estar “profundamente arrependido” pela falha e destacou que seu pedido de desculpas levou dois meses após a tragédia para respeitar o período de luto da comunidade.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou os pedidos da OpenAI como “necessários, e ainda assim grosseiramente insuficientes”. Autoridades canadenses pressionaram a empresa a reforçar suas medidas de segurança e criaram um canal direto de comunicação com a polícia.
A OpenAI usa sistemas automatizados que monitoram conteúdos em tempo real para detectar e bloquear contas que violam suas regras, como promoção de violência, automutilação e suicídio. Em casos de ameaça grave, o sistema envia dados para revisão humana e, se necessário, para autoridades policiais.
Após o ataque, a empresa comprometeu-se a trabalhar com os governos para evitar novos incidentes semelhantes. Altman afirmou que a prioridade é impedir que situações como essa aconteçam novamente.
Familiares de uma menina gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências.
O caso abre debate sobre a responsabilidade de empresas de tecnologia na prevenção de crimes relacionados ao uso de suas plataformas e levanta questões sobre a eficácia dos sistemas automatizados de moderação.
Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, segurança digital, moderação de conteúdo, polícia, Canadá, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
