Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes de ela cometer um ataque que matou oito pessoas em fevereiro. A empresa banira a conta da suspeita oito meses antes do crime, mas não comunicou as autoridades na época.
O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária local. No local, a atiradora matou cinco crianças e um professor e depois se suicidou. Após o incidente, a OpenAI revelou ter detectado a conta da suspeita por meio de seus sistemas de moderação e a banido em junho, oito meses antes da tragédia.
Sam Altman afirmou que a empresa considerou a atividade da conta como insuficientemente grave para justificar um alerta às autoridades na ocasião. Em carta oficial enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” por não ter sinalizado o caso. Ele também explicou que o pedido de desculpas foi feito após um período para respeitar o luto da comunidade de Tumbler Ridge.
David Eby avaliou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses procuraram a equipe de segurança da OpenAI após o ataque e ameaçaram adotar medidas regulatórias caso as práticas da empresa não fossem aprimoradas. A OpenAI anunciou que reforçaria suas medidas de segurança e estabeleceria um canal direto de comunicação com a polícia.
De acordo com a OpenAI, seus sistemas automatizados de moderação analisam conteúdos em tempo real e podem banir contas que violem regras contra exploração sexual, automutilação, suicídio, promoção de violência e outros danos. Em situações graves, comportamentos de alto risco são sinalizados para revisão humana e podem resultar em compartilhamento de informações com as autoridades.
A família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer um evento com mortes em massa, mas não tomou medidas para impedir o ataque.
Em sua carta, Altman garantiu o compromisso da OpenAI em trabalhar com governos para evitar incidentes semelhantes no futuro. A empresa pretende aprimorar suas estratégias de detecção e resposta a ameaças para impedir que tais tragédias se repitam.
Palavras-chave relacionadas: OpenAI, Sam Altman, pedido de desculpas, Tumbler Ridge, tiroteio em massa, ChatGPT, moderação de conteúdo, ataque no Canadá, violência online, ação judicial, segurança digital, emergência policial, abuso no chatbot.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
