Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido ocorreu após denúncias de que a empresa havia banido a suspeita meses antes, mas não comunicou as autoridades.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, matando cinco crianças e um professor, e em seguida cometeu suicídio. A OpenAI identificou a conta da suspeita e a baniu em junho do ano anterior, oito meses antes do ataque. A empresa alegou que, na época, a atividade da usuária não justificava a notificação às autoridades.
Sam Altman, em carta divulgada no dia 24 de abril, declarou estar “profundamente arrependido” pela falha em informar a polícia. Ele afirmou que o pedido de desculpas, embora tardio, buscou respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido “necessário, mas ainda insuficiente.”
A OpenAI utiliza sistemas automatizados de moderação para monitorar o uso do ChatGPT em tempo real. Contas podem ser suspensas ou banidas por violar regras, como promoção de violência, suicídio e exploração sexual. Em casos graves, comportamentos de alto risco são encaminhados para revisão humana, e os dados podem ser compartilhados com autoridades policiais.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso as medidas de segurança não fossem reforçadas. A empresa anunciou a criação de um canal de comunicação direto com a polícia e prometeu aprimorar seus controles para prevenir situações semelhantes.
A carta de Altman ressaltou o compromisso da empresa em trabalhar com governos para evitar tragédias futuras. “Nosso foco continuará sendo a colaboração com todos os níveis de governo para garantir que algo assim não aconteça novamente”, afirmou.
Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI. Eles alegam negligência da empresa, afirmando que esta sabia do plano da atiradora para um “evento com mortes em massa” e não tomou providências.
O caso levanta questões sobre a responsabilidade das empresas de tecnologia na prevenção de conteúdos perigosos em suas plataformas e a efetividade dos sistemas de monitoramento atualmente empregados.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade corporativa, policiamento de IA, violência online, ação judicial, prevenção a tragédias.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
