Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, responsável pelo ataque que matou oito pessoas em fevereiro. Ele declarou arrependimento nesta sexta-feira (24) após críticas das autoridades locais.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária em Tumbler Ridge. O ataque deixou cinco crianças e um professor mortos, além da própria atiradora que cometeu suicídio em seguida. A tragédia causou dez mortes e 25 feridos.
A OpenAI afirmou ter banido a usuária em junho de 2023, oito meses antes da tragédia, ao identificar violações nas regras de uso de seu chatbot. A empresa não notificou as autoridades na época, justificando que a atividade não era grave o suficiente para um encaminhamento policial.
Sam Altman admitiu o erro em uma carta dirigida ao primeiro-ministro da Colúmbia Britânica, David Eby. Ele afirmou que o pedido de desculpas é necessário para reconhecer a perda irreparável sofrida pela comunidade, embora saiba que palavras não são suficientes. Altman explicou que a comunicação foi feita apenas agora para respeitar o período de luto da população local.
Os sistemas da OpenAI utilizam ferramentas automatizadas de moderação que analisam conteúdos em tempo real e podem restringir ou banir contas por violação de regras, incluindo promoção de violência, automutilação e suicídio. Em casos de alto risco, o sistema sinaliza a situação para revisão humana e, se necessário, compartilha informações com as autoridades policiais.
Após o tiroteio, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou implementar medidas regulatórias caso a empresa não reforçasse seus protocolos. A OpenAI se comprometeu a aprimorar suas ferramentas e estabeleceu um canal direto para comunicação com as forças policiais.
Na carta, Altman ressaltou o compromisso da empresa em colaborar com todos os níveis de governo para prevenir novos incidentes. Ele declarou que o foco será evitar tragédias semelhantes no futuro por meio de melhorias nos sistemas de monitoramento e resposta.
A família de uma menina que ficou gravemente ferida no ataque entrou com uma ação judicial por negligência contra a OpenAI. O processo alega que a empresa tinha conhecimento do planejamento de uma “ação com mortes em massa” pela suspeita, mas não tomou providências adequadas para impedir o ataque.
O episódio destaca os desafios enfrentados por empresas de tecnologia na moderação de conteúdo e na prevenção de atos violentos atribuídos a usuários de suas plataformas. O debate sobre a responsabilidade dessas companhias continua em evidência diante dos avanços na inteligência artificial e comunicação digital.
—
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa Canadá, Tumbler Ridge, segurança digital, moderação de conteúdo, denúncia de violência, responsabilidade tecnológica, ação judicial OpenAI
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
