Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes em uma conta do ChatGPT usada pela suspeita do tiroteio que matou oito pessoas em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
O ataque ocorreu em 10 de fevereiro, quando uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local e abrir fogo. Ela matou cinco alunos e um professor e depois cometeu suicídio. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT, mas não informou as autoridades policiais.
A empresa afirmou que não realizou a denúncia porque a atividade da usuária não foi considerada grave o suficiente para justificar um alerta formal. Altman declarou estar “profundamente arrependido” pela falta de comunicação com as autoridades e disse que seu pedido de desculpas busca reconhecer o dano e a perda sofrida pela comunidade.
O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Após o atentado, as autoridades canadenses pressionaram a OpenAI para reforçar suas medidas de segurança e criaram um canal direto de comunicação com a polícia.
A OpenAI utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real e pode restringir ou banir contas que violem regras, como exploração sexual, incentivo à automutilação ou promoção de violência. Em casos de comportamento de alto risco, o sistema sinaliza para revisão humana e pode compartilhar dados com as autoridades.
Apesar desses mecanismos, a empresa não comunicou o comportamento da suspeita às autoridades em junho, o que gerou críticas e uma ação judicial movida pela família de uma menina que ficou gravemente ferida no tiroteio. Os familiares alegam que a OpenAI tinha conhecimento de planos para um “evento com mortes em massa” e “não adotou nenhuma medida”.
Altman justificou o atraso no pedido de desculpas afirmando que respeitou o período de luto da comunidade de Tumbler Ridge. Ele também afirmou que a OpenAI está comprometida em buscar formas de evitar que tragédias semelhantes ocorram no futuro e afirmou que a empresa trabalhará com os governos para aumentar a segurança.
A repercussão do caso reacende o debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos e no encaminhamento de informações a autoridades em situações de risco iminente. A OpenAI permanece sob vigilância regulatória e investe em melhorias em seus protocolos de segurança.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, denúncia de crimes, responsabilidade tecnológica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
