O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT, antes da mulher cometer um ataque que matou oito pessoas em fevereiro. Altman afirmou o arrependimento em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, quatro meses após o ocorrido.
Em 10 de fevereiro, uma jovem transgênero de 18 anos matou sua mãe e meio-irmão em casa e depois abriu fogo em uma escola secundária local, onde matou cinco estudantes e um professor antes de cometer suicídio. A suspeita foi banida do ChatGPT em junho do ano anterior, quando seus conteúdos preocupantes foram identificados pelos sistemas da OpenAI. A empresa, no entanto, não comunicou as autoridades do Canadá na época.
Altman explicou que a OpenAI não reportou o caso porque a atividade da usuária não foi considerada grave o suficiente para justificar um encaminhamento policial. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, afirmou. O pedido de desculpas foi feito após diálogo com representantes locais e foi justificado pelo respeito ao período de luto da comunidade.
O primeiro-ministro David Eby considerou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a importância de ações mais efetivas para prevenir incidentes futuros e cobrar melhorias na comunicação entre empresas de tecnologia e autoridades.
A OpenAI utiliza sistemas automatizados para moderar conteúdos em seus serviços, incluindo o ChatGPT. Esses sistemas detectam e bloqueiam contas por violações como exploração sexual, incentivo ao suicídio e promoção de violência. Em casos considerados graves, o sistema sinaliza a situação para revisão humana e pode compartilhar informações com a polícia.
Após o ataque, autoridades canadenses convocaram a equipe da OpenAI e ameaçaram adotar medidas regulatórias caso as práticas não fossem aprimoradas. Em resposta, a empresa afirmou ter reforçado seus protocolos de segurança e criado um canal direto de comunicação com a polícia local para agilizar o compartilhamento de informações em situações de risco.
Na carta, Altman reafirmou o compromisso da OpenAI em colaborar com governos para evitar tragédias semelhantes. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, escreveu.
Enquanto isso, a família de uma criança que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI nos Estados Unidos, acusando a empresa de negligência. Eles alegam que a companhia tinha conhecimento do plano da atiradora de realizar um ataque em massa, mas não tomou nenhuma medida preventiva efetiva.
O episódio reacendeu debates sobre a responsabilidade de empresas de tecnologia na moderação e monitoramento de conteúdos potencialmente perigosos e a necessidade de protocolos mais rigorosos para comunicação com as autoridades em casos de risco iminente.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio Canadá, Tumbler Ridge, moderação de conteúdo, segurança digital, responsabilidade de empresas de tecnologia, ação judicial, ataque em massa, violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
