Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT, que cometeu um ataque em fevereiro, resultando em oito mortes. O pedido foi divulgado em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola secundária local, onde matou cinco crianças e um professor, e em seguida tirou a própria vida. A atiradora havia sido banida do ChatGPT em junho do ano anterior, após a identificação de conteúdos de risco pela OpenAI.
A empresa afirmou na época que não notificou a polícia porque a atividade da usuária não foi considerada grave o suficiente para justificar a comunicação às autoridades. Em sua carta, Altman afirmou estar “profundamente arrependido” pela decisão e reconheceu o sofrimento da comunidade de Tumbler Ridge.
David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses cobraram a equipe de segurança da OpenAI e ameaçaram aplicar medidas regulatórias caso não houvesse mudanças nas políticas de monitoramento.
A OpenAI usa sistemas automatizados que analisam mensagens em tempo real para detectar violações das regras, que incluem conteúdos que promovem violência, suicídio ou abuso sexual. Comportamentos considerados de alto risco passam por revisão humana e, quando necessário, são comunicados às autoridades policiais.
Após a tragédia, a empresa afirmou que reforçaria suas medidas de segurança e estabeleceu um canal de contato direto com a polícia local para melhorar o compartilhamento de informações relevantes.
Altman também explicou que o atraso no pedido de desculpas se deu pelo respeito ao período de luto da comunidade atingida. Ele garantiu que a OpenAI está empenhada em trabalhar com governos para prevenir novos episódios similares.
Familiares de uma menina ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências.
A empresa enfrenta, assim, um desafio de equilibrar a moderação de conteúdos com a segurança pública, diante do uso crescente de inteligência artificial em plataformas de comunicação.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, ataque em escola, responsabilidade da tecnologia
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
