Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. O pedido foi divulgado em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em uma escola local, onde cinco alunos e um professor foram mortos. A atiradora se suicidou logo após o ataque. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT, mas não comunicou as autoridades devido à suposta falta de gravidade das mensagens.
Altman expressou arrependimento por não ter informado a polícia e explicou que o pedido de desculpas foi feito apenas dois meses após a tragédia para respeitar o luto da comunidade. “Embora eu saiba que palavras nunca são suficientes, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu”, afirmou.
O governo da Colúmbia Britânica classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI após o ataque e ameaçaram aplicar ações regulatórias caso não houvesse melhorias na detecção e reporte de conteúdos de risco.
A OpenAI afirmou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, bloqueando contas por violações que incluem exploração sexual, incitação à violência, automutilação e suicídio. Em casos graves, os sistemas sinalizam comportamentos para revisão humana e podem compartilhar dados com a polícia se a ameaça for considerada crível.
Após o incidente, a empresa anunciou que reforçará as medidas de segurança e criou um canal direto de comunicação com as autoridades policiais para evitar novas tragédias. Altman destacou o compromisso da OpenAI em trabalhar com todas as esferas governamentais para melhorar a prevenção de ataques.
Enquanto isso, a família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, acusando a empresa de negligência. Eles alegam que a empresa tinha conhecimento prévio dos planos da atiradora para um “evento com mortes em massa” e não tomou providências para evitar o ataque.
O caso levanta questionamentos sobre a responsabilidade das plataformas de inteligência artificial na prevenção de atos violentos e o papel das autoridades no monitoramento dessas ferramentas. O diálogo entre empresas de tecnologia e governos ganha destaque diante das demandas por maior segurança e transparência.
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, responsabilidade de IA, ataque em escola, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
