Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes envolvendo uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque. O pedido foi divulgado nesta sexta-feira (24), mais de dois meses após a tragédia, motivado pelo respeito ao luto da comunidade local.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária de Tumbler Ridge, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou que havia banido a conta da suspeita do ChatGPT em junho do ano anterior, após identificar comportamentos preocupantes nos sistemas automatizados de moderação.
A empresa explicou que não notificou a polícia na época porque a atividade não indicava uma ameaça grave o suficiente para justificar o contato com as autoridades. Altman declarou estar “profundamente arrependido” por essa decisão e reconheceu que o pedido de desculpas é um reconhecimento do dano irreversível sofrido pela comunidade.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso medidas não fossem aprimoradas. Em resposta, a empresa afirmou que reforçaria seus protocolos de segurança e criou um canal de contato direto com a polícia.
A OpenAI detalhou que seus sistemas automatizados monitoram conteúdos em tempo real, restringindo ou banindo contas que violam regras, como promoção de violência, automutilação ou suicídio. Em casos de risco elevado, as plataformas sinalizam para revisão humana e podem compartilhar dados com autoridades policiais.
Além do pedido de desculpas, Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar incidentes semelhantes no futuro. A empresa busca aprimorar a detecção de ameaças e as formas de comunicação com as autoridades para aumentar a segurança pública.
A família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa sabia que a suspeita planejava um ataque em massa, mas não tomou medidas para impedir a tragédia.
O caso reacende o debate sobre a responsabilidade das empresas de tecnologia em monitorar e agir diante de conteúdos potencialmente perigosos em suas plataformas. A ação judicial pode pressionar o setor a adotar protocolos mais rigorosos na prevenção de crimes envolvendo usuários.
Este episódio também levanta questões sobre o equilíbrio entre privacidade, liberdade de expressão e a segurança pública no uso de inteligência artificial e sistemas automatizados de moderação.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, pedido de desculpas, segurança digital, moderação de conteúdo, inteligência artificial, justiça, responsabilidade corporativa, ataque em escola, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
