Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes em uma conta do ChatGPT vinculada à suspeita de um ataque que matou oito pessoas em fevereiro. A armação do pedido foi feita mais de dois meses após o tiroteio, motivada pelo respeito ao luto da comunidade local.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, em seguida atirou em cinco crianças e um professor em uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, antes de tirar a própria vida. A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior por meio de seus sistemas automáticos de moderação e banido a usuária, mas não reportou o caso às autoridades canadenses por considerar que a atividade não justificava alerta oficial.
Em carta endereçada ao primeiro-ministro David Eby, Altman declarou estar “profundamente arrependido” por a empresa não ter compartilhado informações policiais na época do banimento. Eby considerou as desculpas “necessárias, e ainda assim grosseiramente insuficientes”. O governo canadense convocou a equipe de segurança da OpenAI para discutir o caso e ameaçou ações regulatórias caso medidas não fossem adotadas.
A OpenAI explicou que seus sistemas de moderação automatizados analisam conteúdos em tempo real, restringem ou banem contas que violam regras como promoção de violência, automutilação, suicídio ou exploração sexual. Em casos de risco elevado, o caso passa para revisão humana e pode ser reportado às autoridades policiais. A empresa afirmou que irá fortalecer seus protocolos de segurança e estabelecer canais diretos com a polícia para prevenir futuros incidentes.
A família de uma menina ferida no ataque entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Segundo os familiares, a companhia tinha conhecimento do plano da atiradora, mas não tomou nenhuma providência para impedir o ataque. A Justiça ainda não se pronunciou sobre o processo.
O episódio levanta questões sobre o papel das empresas de tecnologia no monitoramento e no encaminhamento de ameaças detectadas em suas plataformas. A OpenAI reforçou o compromisso de colaborar com governos para evitar que casos semelhantes ocorram novamente.
—
Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, ataque Tumbler Ridge, segurança digital, moderação conteúdo, denúncia violência, responsabilização tecnologia, ação judicial OpenAI.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
