Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. A empresa identificou a conta da suspeita e a baniu oito meses antes do crime, mas não comunicou as autoridades, alegando que a atividade não justificava o encaminhamento.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária local, matando cinco crianças, um professor e tirando a própria vida. A OpenAI afirmou ter banido a usuária em junho, após detectar sinais de comportamento abusivo pelo sistema de moderação automatizado do ChatGPT.
Sam Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24), na qual expressa arrependimento pela falta de comunicação com a polícia e defende que o pedido de desculpas é necessário diante do sofrimento da comunidade. O primeiro-ministro considerou o gesto “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI explicou que seus sistemas analisam conteúdos em tempo real para detectar violações, como apoio à automutilação, suicídio e promoção de violência. Em casos de risco alto, humanos revisam as informações e, se a ameaça for credível, os dados podem ser repassados às autoridades. No caso da suspeita, a empresa decidiu não reportar por entender que o risco não era iminente.
Após o ataque em Tumbler Ridge, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando medidas regulatórias caso as práticas não fossem aprimoradas. A empresa comunicou que pretende reforçar as medidas de segurança e criou um canal direto para contato com a polícia.
Altman afirmou na carta que a OpenAI está comprometida em colaborar com governos para evitar tragédias similares no futuro. Ele justificou o atraso no pedido de desculpas, alegando respeito ao luto da comunidade afetada.
A família de uma menina ferida gravemente no ataque entrou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento de um “evento com mortes em massa” planejado pela atiradora, mas não tomou medidas preventivas.
O episódio levantou debates sobre a responsabilidade das empresas de tecnologia no monitoramento e no reporte de conteúdos potencialmente perigosos, e sobre o funcionamento dos mecanismos de moderação automatizada em plataformas como o ChatGPT.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, polícia, moderação de conteúdo, tecnologia, responsabilidade, segurança, Colúmbia Britânica, ataque a tiros.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
