Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre mensagens preocupantes trocadas por uma ex-usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, deixando oito mortos. O pedido foi divulgado nesta sexta-feira (24), após críticas do governo da Colúmbia Britânica.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em sua casa antes de ir a uma escola da cidade e abrir fogo. No local, ela tirou a vida de cinco crianças e um professor e depois cometeu suicídio. Ao todo, o ataque deixou dez mortos e 25 feridos.
A OpenAI afirmou que identificou a conta da suspeita em seu sistema de moderação em junho do ano anterior, banindo-a do ChatGPT oito meses antes da tragédia. A empresa não notificou a polícia na época, alegando que o conteúdo detectado na conta não foi considerado grave o suficiente para justificar o envolvimento das autoridades.
Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Sam Altman disse estar “profundamente arrependido” pela falta de comunicação com a polícia. Ele explicou que aguardou para manifestar-se publicamente para respeitar o luto da comunidade de Tumbler Ridge.
O governo da província considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”, conforme declarou David Eby. Autoridades canadenses também realizaram reuniões com a equipe de segurança da OpenAI e indicaram que poderão adotar medidas regulatórias caso os protocolos de segurança da empresa não sejam aprimorados.
A OpenAI informou que utiliza sistemas automatizados para analisar conteúdos compartilhados no ChatGPT em tempo real e pode banir contas por violações que envolvem exploração sexual, incentivo à automutilação, suicídio ou promoção de violência. Em casos de ameaças consideradas sérias, o sistema encaminha os casos para revisão humana, podendo compartilhar dados com a polícia.
Após o ataque, a empresa anunciou que reforçará suas medidas de segurança e criou um canal de comunicação direta com as autoridades policiais. Sam Altman destacou o compromisso da OpenAI em colaborar com governos para prevenir futuros episódios de violência envolvendo o uso de suas tecnologias.
Enquanto isso, familiares de uma menina gravemente ferida no ataque já entraram com uma ação judicial contra a OpenAI, alegando negligência por parte da empresa. Segundo os autores do processo, a companhia tinha conhecimento de um plano para um evento com mortes em massa, mas não tomou medidas para impedir o ocorrido.
A trajetória dos acontecimentos expõe desafios na gestão de conteúdos gerados por inteligência artificial e levanta cobranças sobre a responsabilidade das empresas na prevenção de crimes usando suas plataformas.
Palavras-chave relacionadas:
OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, ataque a tiros, responsabilidade tecnológica, inteligência artificial, ação judicial, prevenção de crimes.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
