O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes relacionados a uma ex-usuária do ChatGPT que cometeu um ataque a tiros em fevereiro, deixando oito mortos. A ação aconteceu após a identificação da conta da suspeita pela empresa e seu banimento em junho do ano anterior, mas sem comunicação às autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de atirar em uma escola local, onde nove pessoas foram atingidas, seis delas morreram, incluindo um professor. A atiradora se suicidou após o ataque. A OpenAI identificou a usuária por meio de seus sistemas de moderação e a baniu do ChatGPT oito meses antes do incidente, após detectar conteúdos que violavam as políticas da plataforma.
Sam Altman afirmou que a empresa não denunciou o caso à polícia por entender que a atividade da conta não configurava uma ameaça grave suficiente para justificar o encaminhamento às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, o executivo disse estar “profundamente arrependido” pela falha e buscou respeitar o período de luto da comunidade antes de se manifestar publicamente.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele expressou insatisfação com a postura da OpenAI diante dos fatos e destacou a importância de respostas mais efetivas para evitar tragédias futuras.
A OpenAI utiliza sistemas automatizados de moderação que monitoram e analisam conteúdos em tempo real. Contas detectadas com violações podem ser restringidas ou banidas, principalmente por temas relacionados a exploração sexual, automutilação, suicídio ou promoção de violência. Em situações graves, os sistemas sinalizam riscos para revisão humana e podem encaminhar dados para a polícia.
Após o ataque, autoridades canadenses se reuniram com a equipe de segurança da OpenAI, advertindo sobre possíveis ações regulatórias caso melhorias não fossem implementadas. Em resposta, a empresa afirmou que reforçaria suas medidas de segurança e criaria um canal direto de comunicação com as forças policiais.
Na carta, Altman ressaltou o compromisso da OpenAI em colaborar com governos para evitar incidentes semelhantes no futuro. “Daqui para frente, nosso foco continuará sendo trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, disse ele.
Além das declarações oficiais, a família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência por supostamente ter conhecimento do plano da atiradora e não ter tomado providências.
O caso reacende o debate sobre a responsabilidade de plataformas de inteligência artificial em monitorar ameaças e a necessidade de protocolos claros para a comunicação com autoridades em situações de risco, especialmente diante da crescente presença do ChatGPT e outras ferramentas no cotidiano das pessoas.
—
Palavras-chave relacionadas para SEO:
Sam Altman, OpenAI, Tumbler Ridge, ataque a tiros Canadá, ChatGPT, conteúdo abusivo, moderação automática, denúncia à polícia, tragédia em escola, segurança em IA, justiça canadense, responsabilidade de tecnologia.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
