Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta divulgada em 24 de abril, após a repercussão da tragédia.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária local. Na escola, ela matou cinco crianças e um professor, e depois tirou a própria vida. O episódio causou comoção na província canadense da Colúmbia Britânica.
A OpenAI informou que havia identificado a conta da suspeita em junho do ano anterior por meio de seus sistemas automatizados de moderação. A usuária foi banida do ChatGPT oito meses antes do ataque, mas a empresa não reportou a situação à polícia canadense. A justificativa foi que a atividade não teria sido considerada grave o suficiente para encaminhamento às autoridades.
Sam Altman afirmou que está “profundamente arrependido” pela falha em comunicar o caso para as forças policiais. Ele justificou o atraso no pedido de desculpas alegando respeito ao período de luto da comunidade local. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”.
A OpenAI utiliza sistemas automatizados para analisar conteúdos em tempo real, restringindo ou banindo contas que violam regras contra exploração sexual, apoio à automutilação, suicídio e promoção de violência. Segundo a empresa, casos graves são sinalizados para revisão humana e, se identificar uma ameaça crível, os dados podem ser compartilhados com a polícia.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso não houvesse mudanças nas políticas de monitoramento e comunicação. A empresa reforçou o compromisso de aprimorar as medidas de segurança e anunciou a criação de um canal direto de comunicação com as autoridades policiais.
Na carta, Altman afirmou que a OpenAI trabalhará com todos os níveis de governo para evitar tragédias semelhantes no futuro. “Nosso foco continuará sendo garantir que algo assim nunca aconteça novamente”, declarou.
A família de uma menina gravemente ferida no tiroteio abriu uma ação judicial contra a OpenAI, alegando negligência da empresa. Segundo o processo, a empresa sabia que a suspeita planejava um ataque com mortes em massa, mas não adotou medidas para impedir o ocorrido.
A tragédia reabre o debate sobre a responsabilidade das plataformas digitais no monitoramento de conteúdos que possam indicar comportamentos de risco e sobre o equilíbrio entre privacidade e segurança pública.
—
**Palavras-chave:** Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio Canadá, denúncia de violência, moderação automática, segurança digital, responsabilidade tecnológica, legislação de tecnologia.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
