Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um ataque com múltiplas vítimas em fevereiro.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou oito pessoas, incluindo sua mãe e meio-irmão em casa, e abriu fogo em uma escola local, onde matou cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou que a conta da suspeita foi banida do ChatGPT em junho do ano anterior, após a identificação de atividades abusivas.
Sam Altman disse estar profundamente arrependido por não ter reportado as informações à polícia canadense no momento do banimento. Segundo ele, a empresa não fez a denúncia porque considerou que a atividade da usuária não apresentava gravidade suficiente para encaminhamento às autoridades. O pedido de desculpas foi enviado mais de dois meses após a tragédia, com o CEO justificando que a demora se deveu ao respeito pelo momento de luto da comunidade.
O primeiro-ministro da província da Colúmbia Britânica, David Eby, classificou o pedido da OpenAI como necessário, mas insuficiente diante do impacto do ataque. Ele cobra mudanças mais rigorosas nas políticas de moderação e cooperação com autoridades para evitar futuros incidentes.
A OpenAI informou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real e restringir contas que violem regras, como promoção de violência, suicídio e exploração sexual. Em casos graves, esses sistemas podem sinalizar comportamentos de risco para revisão humana e eventual comunicação às autoridades policiais.
Após o ataque, autoridades canadenses mantiveram contato com a equipe de segurança da OpenAI e ameaçaram impor regulações caso não fossem adotadas medidas mais eficazes. A empresa afirmou que intensificará suas ações de segurança e implementou um canal direto com a polícia local.
Além do pedido de desculpas, Altman afirmou que a OpenAI está comprometida em trabalhar com governos para impedir que tragédias semelhantes voltem a ocorrer. Enquanto isso, familiares de uma vítima que ficou gravemente ferida no tiroteio abriram uma ação judicial por negligência contra a empresa, argumentando que a OpenAI tinha conhecimento do risco e não interveio.
O episódio evidencia os desafios das plataformas digitais em monitorar e agir diante de conteúdos que possam representar ameaças reais, além de provocar debates sobre a responsabilidade das empresas de tecnologia na prevenção de atos violentos.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, violação de regras, autoridades policiais, segurança digital, responsabilidade tecnológica, ação judicial, ataque armado.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
