Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre sinais preocupantes na conta de uma ex-usuária do ChatGPT, responsável por um ataque que matou oito pessoas em fevereiro. A ação de Altman ocorre após críticas ao fato de a empresa ter banido a usuária meses antes, sem comunicar as autoridades locais.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em sua casa antes de abrir fogo em uma escola da região. Sete pessoas, entre alunos e um professor, foram assassinadas, e a atiradora cometeu suicídio no local. A tragédia deixou um total de oito mortos, além de vários feridos.
A OpenAI identificou a suspeita e suspendeu sua conta no ChatGPT em junho do ano anterior, oito meses antes do ataque. A empresa afirmou que o conteúdo gerado pela usuária indicava violações das políticas de uso do chatbot, mas não foi considerado grave o suficiente para acionar as autoridades policiais. Altman reconheceu o erro e manifestou arrependimento em carta pública enviada ao primeiro-ministro da Colúmbia Britânica, David Eby.
O governo da província classificou o pedido de desculpas de Altman como “necessário, mas grosseiramente insuficiente”. Autoridades canadenses ameaçaram implementar regulações mais rígidas para empresas de tecnologia caso os mecanismos de controle e denúncia de comportamentos de risco não sejam aprimorados.
A OpenAI explicou que utiliza sistemas automáticos de moderação para analisar conteúdos em tempo real, com bloqueios de contas quando detectadas violações como promoção de violência ou incitação ao suicídio. Em ocasiões de risco elevado, esses sistemas enviam alertas para revisão humana e podem repassar informações às autoridades. Entretanto, no caso específico da usuária banida, a ameaça não foi considerada crível o suficiente para justificar o contato policial.
Após a repercussão do episódio, a empresa declarou que vai reforçar os protocolos de segurança e manter diálogo direto com órgãos policiais para evitar novas tragédias. Altman enfatizou o compromisso da OpenAI em colaborar com governos para garantir que incidentes semelhantes não se repitam.
Familiares de uma criança ferida no ataque entraram com processo contra a OpenAI, acusando a empresa de negligência ao supostamente ignorar avisos sobre o planejamento do tiroteio. A ação judicial aponta que a companhia tinha conhecimento da intenção da suspeita mas não adotou medidas preventivas.
A tragédia em Tumbler Ridge reacende o debate sobre a responsabilidade das plataformas de inteligência artificial no monitoramento e prevenção de condutas violentas, e destaca desafios regulatórios para o setor tecnológico em todo o mundo.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, ChatGPT, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, denúncia de violência, responsabilidade tecnológica, ação judicial, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
