Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque que matou oito pessoas em fevereiro, cometido por uma ex-usuária do ChatGPT. Ele expressou arrependimento por a empresa não ter alertado a polícia sobre conteúdos preocupantes gerados pela suspeita antes da tragédia.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois incendiou a residência e foi a uma escola local, onde atirou contra alunos e um professor, matando seis pessoas no total, antes de cometer suicídio. A OpenAI afirmou ter identificado e banido a conta da atiradora em junho do ano anterior, por meio de seus sistemas de moderação automatizados.
A empresa não comunicou as autoridades canadenses na época, alegando que as atividades detectadas não configuravam risco grave suficiente para um alerta policial. Após a tragédia, Sam Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, na qual pediu desculpas pelo silêncio e declarou compromisso em melhorar os processos de segurança.
David Eby avaliou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também pressionaram a OpenAI, ameaçando medidas regulatórias caso a empresa não reforçasse suas políticas de segurança.
Segundo Altman, a OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real, bloqueando ou banindo usuários que violam regras relacionadas a abuso, automutilação, suicídio e promoção de violência. Em situações de risco elevado, o sistema deveria sinalizar o problema para revisão humana e eventual comunicação às autoridades.
A companhia passou a desenvolver canais diretos de contato com a polícia para evitar casos semelhantes. Em sua carta, Altman afirmou que buscará cooperação com governos para que tragédias como a de Tumbler Ridge não se repitam.
Familiares de uma menina gravemente ferida no ataque entraram com ação judicial por negligência contra a OpenAI. Eles afirmam que a empresa tinha conhecimento do plano da suspeita para um “evento com mortes em massa”, mas não tomou medidas eficazes.
A discussão sobre o papel das plataformas de inteligência artificial na detecção e prevenção de crimes envolvendo seus usuários segue em evidência, especialmente após este episódio que causou dez mortes e 25 feridos.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, violência, moderação automática, responsabilidade, ataque no Canadá, ação judicial, segurança em IA, denúncia de violência, prevenção de crimes.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
