Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito mais de dois meses após a tragédia, em carta direcionada ao governo da Colúmbia Britânica.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária local, onde matou cinco estudantes e um professor, e depois tirou a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após o sistema de detecção de abuso da OpenAI identificar sua conta devido a conteúdos preocupantes.
A OpenAI afirmou que não comunicou a polícia na ocasião porque a atividade da usuária não parecia grave o suficiente para justificar uma denúncia formal às autoridades. Em sua carta, Altman declarou estar “profundamente arrependido” por essa decisão e reconheceu a perda irreparável sofrida pela comunidade de Tumbler Ridge.
O primeiro-ministro da Colúmbia Britânica, David Eby, descreveu o pedido de desculpas como necessário, mas “grosseiramente insuficiente”. Autoridades locais também convocaram a equipe de segurança da OpenAI para discutir mudanças e ameaçaram tomar medidas regulatórias caso providências não fossem adotadas.
A OpenAI usa sistemas automatizados de moderação para analisar conteúdos em tempo real, restringindo ou banindo contas que violam regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos graves, comportamentos de alto risco são sinalizados para revisão humana e, se confirmados, a empresa pode compartilhar informações com a polícia.
Após o ataque, a OpenAI anunciou o reforço nas medidas de segurança e criou um canal de comunicação direta com as autoridades policiais para agilizar respostas futuras. Altman afirmou que a empresa está comprometida em colaborar com governos para evitar novas tragédias.
Além do pedido de desculpas, uma família de uma criança que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI. O processo alega negligência, afirmando que a empresa teve conhecimento dos planos da atiradora, que mencionava um “evento com mortes em massa”, mas não tomou medidas para impedir o ataque.
O caso reacende o debate sobre a responsabilidade das plataformas digitais em monitorar e denunciar riscos reais de violência, principalmente quando envolvem inteligência artificial. Autoridades e empresas seguem sob pressão para aprimorar os mecanismos de prevenção e comunicação.
—
**Palavras-chave:** OpenAI, Sam Altman, Tumbler Ridge, tiroteio em massa, ChatGPT, moderação de conteúdo, denúncia policial, violência online, responsabilidade digital, segurança em IA
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
