Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT meses antes de um ataque que matou oito pessoas em fevereiro deste ano. A ex-usuária, uma mulher transgênero de 18 anos, cometeu o ataque em sua casa e em uma escola local, antes de tirar a própria vida.
No dia 10 de fevereiro, a atiradora matou a mãe e o meio-irmão em casa. Em seguida, dirigiu-se a uma escola secundária na cidade e matou cinco estudantes e um professor. Após o ataque, a OpenAI informou que havia banido a conta da suspeita em junho do ano anterior, com base em seus sistemas de detecção de abuso. A empresa alegou que, na época, a gravidade das atividades não justificava um reporte às autoridades policiais.
Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman declarou estar “profundamente arrependido” por não ter comunicado a polícia sobre a conta banida. Ele afirmou que o pedido de desculpas, ainda que tardio, era necessário para reconhecer o dano sofrido pela comunidade de Tumbler Ridge. Altman explicou que o anúncio estava sendo feito apenas após mais de dois meses da tragédia para respeitar o luto local.
David Eby respondeu que o pedido é “necessário, e ainda assim grosseiramente insuficiente”, considerando a gravidade dos fatos. Autoridades canadenses também convocaram a equipe de segurança da OpenAI após o ataque e ameaçaram impor ações regulatórias caso as medidas de segurança não fossem aprimoradas.
A OpenAI afirmou que utiliza sistemas automatizados para moderar conteúdos em tempo real, com a capacidade de restringir ou banir contas que violem suas regras contra exploração sexual, incentivo à automutilação, suicídio, violência ou outros danos. Em situações graves, o sistema sinaliza comportamentos de alto risco para análise humana e pode repassar informações às autoridades policiais. Segundo a empresa, isso não ocorreu no caso da suspeita porque a gravidade não foi considerada suficiente na época.
Desde o ataque, a OpenAI anunciou o reforço de suas medidas de segurança e a criação de um canal direto de comunicação com a polícia. Altman ressaltou o compromisso da empresa em colaborar com os governos para evitar que tragédias semelhantes se repitam.
Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento de que a atiradora planejava um “evento com mortes em massa”, mas não tomou nenhuma providência para impedir o ataque.
O caso levanta questionamentos sobre a responsabilidade das empresas de inteligência artificial na moderação de conteúdos e na colaboração com autoridades para prevenir crimes. A OpenAI e outras companhias do setor enfrentam pressão crescente para aperfeiçoar seus sistemas de segurança e acompanhamento de comportamentos suspeitos.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, moderação de conteúdos, denúncia de violência, ação judicial, segurança digital, inteligência artificial, responsabilidade social.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
