Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes em uma conta do ChatGPT vinculada à suspeita de um tiroteio em massa ocorrido em fevereiro. O ataque resultou na morte de oito pessoas e foi cometido por uma jovem que havia sido banida do serviço oito meses antes.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola secundária local, onde atirou em cinco alunos e um professor, e depois cometeu suicídio. Após o ocorrido, a OpenAI revelou que identificou e suspendeu a conta da suspeita em junho do ano anterior por violação das regras do ChatGPT.
Sam Altman afirmou que a empresa não comunicou as autoridades policiais na época porque considerou que as ações da usuária não eram graves o suficiente para justificar um aviso formal. Em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, divulgada em 24 de abril, Altman expressou “profundo arrependimento” pela falha em alertar a polícia.
O primeiro-ministro David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Ele enfatizou a necessidade de medidas mais rigorosas para evitar que situações similares voltem a ocorrer. Depois do ataque, autoridades canadenses pressionaram a OpenAI por mudanças e criaram um canal direto de comunicação entre a empresa e a polícia.
A OpenAI utiliza sistemas automatizados que monitoram e moderam o conteúdo gerado no ChatGPT, incluindo sinalização de comportamentos de risco para revisão humana. Em casos de ameaça crível, a empresa diz compartilhar informações relevantes com as autoridades. No entanto, no caso da suspeita, a atividade não teria sido considerada grave o bastante para acionamento policial na época do banimento.
Após a tragédia, Altman justificou o atraso de mais de dois meses no pedido de desculpas como uma forma de respeitar o luto da comunidade afetada em Tumbler Ridge. Ele acrescentou que a OpenAI está comprometida em colaborar com autoridades governamentais para evitar que incidentes como esse se repitam.
Familiares de uma das vítimas graves do tiroteio ingressaram com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a empresa tinha conhecimento do planejamento do ataque pela atiradora, mas não tomou providências para impedir o ataque.
O caso levanta questionamentos sobre a responsabilidade das plataformas digitais na prevenção de riscos à segurança pública e sobre a eficácia dos sistemas automatizados para identificar ameaças. Enquanto isso, a OpenAI se prepara para intensificar suas medidas de monitoramento e cooperação com órgãos de segurança.
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, segurança digital, moderação de conteúdo, atentado escolar, responsabilidade social, ação judicial, violência, prevenção de crimes, sistemas de moderação, ataque a tiros.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
