Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, matando oito pessoas. O pedido veio após críticas do governo local e familiares das vítimas.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola local onde assassinou cinco crianças e um professor. Depois, a suspeita tirou a própria vida.
A OpenAI afirmou ter identificado e banido a conta da usuária do ChatGPT oito meses antes do ataque, em junho do ano anterior. Na época, a empresa não notificou a polícia, alegando que a atividade detectada não justificava um encaminhamento para as autoridades.
Sam Altman declarou estar “profundamente arrependido” por não ter informado as autoridades policiais sobre a conta banida e enviou uma carta ao primeiro-ministro da província da Colúmbia Britânica, David Eby. O político classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.
Altman explicou que esperou dois meses para fazer o pedido de desculpas para respeitar o período de luto da comunidade de Tumbler Ridge. Ele ressaltou o compromisso da OpenAI em trabalhar com os governos para evitar futuras tragédias.
A OpenAI utiliza sistemas automatizados para moderação de conteúdos em tempo real, que restringem ou banem contas que violam regras relacionadas a exploração sexual, apoio à automutilação e suicídio, além de promoção de violência. Em casos de ameaça grave, o sistema inclui revisão humana e pode compartilhar dados com a polícia.
Após o ataque, autoridades canadenses pediram que a OpenAI reforçasse as medidas de segurança e criasse um canal direto com a polícia para futuras denúncias. A empresa se comprometeu a implementar essas mudanças.
Familiares de uma vítima ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento dos planos da atiradora para cometer um ataque em massa, mas não agiu para impedir o crime.
O caso levanta questões sobre a responsabilidade de empresas de tecnologia no monitoramento de conteúdos e prevenção de crimes. A OpenAI enfrenta pressão para aprimorar suas políticas e colaborar mais efetivamente com autoridades policiais.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, tiroteio, ataque em massa, moderação de conteúdo, segurança digital, polícia canadense, ação judicial, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
