Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. A vítima, uma mulher transgênero de 18 anos, foi banida do chatbot oito meses antes do crime, mas a empresa não comunicou as autoridades na ocasião.
No dia 10 de fevereiro, a atiradora matou a mãe e o meio-irmão em casa, seguiu até uma escola local e matou cinco alunos e um professor antes de tirar a própria vida. Após o ataque, a OpenAI afirmou que identificou e suspendeu a conta da suspeita em junho do ano anterior, por violações às regras do chatbot.
A empresa justificou que não notificou a polícia porque a atividade da usuária não teria sido grave o suficiente para encaminhamento às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou estar “profundamente arrependido” pela falha. Ele também justificou o atraso no pedido de desculpas, alegando respeito ao luto da comunidade de Tumbler Ridge.
David Eby considerou a desculpa “necessária, e ainda assim grosseiramente insuficiente”, e afirmou que são necessárias ações concretas para evitar novos incidentes. Após a tragédia, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso as mudanças não ocorressem.
A OpenAI revelou que utiliza sistemas automatizados para analisar conteúdos em tempo real e pode restringir ou banir contas que violam suas políticas, que incluem proibições de promoção de violência, suicídio e automutilação. Quando uma ameaça grave é detectada, há procedimentos para sinalizar o caso para revisão e possível comunicação às autoridades policiais.
Em resposta ao incidente, a empresa afirmou que intensificará suas medidas de segurança e criou um canal de comunicação direta com a polícia canadense para melhorar a cooperação. Altman afirmou que a OpenAI está comprometida em trabalhar com todos os níveis de governo para impedir que tragédias semelhantes ocorram novamente.
Além do pedido de desculpas e da promessa de melhorias, familiares de uma menina gravemente ferida no ataque ajuizaram uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora, que planejava um “evento com mortes em massa”, mas não tomou providências adequadas.
O caso levanta questões sobre o papel das plataformas de inteligência artificial na detecção e prevenção de possíveis atos de violência. Autoridades, empresas de tecnologia e especialistas discutem formas de aprimorar a moderação e o monitoramento para evitar risco a vidas humanas.
A OpenAI enfrenta pressão para estabelecer protocolos mais rígidos e transparência em seus mecanismos de controle, enquanto governos avaliam regulamentações específicas para o setor de inteligência artificial.
Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em Tumbler Ridge, Colúmbia Britânica, ataque em escola, vigilância de IA, segurança digital, moderação de conteúdo, inteligência artificial, ação judicial, responsabilidade tecnológica, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
