Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT que cometeu um ataque em fevereiro, no qual oito pessoas foram mortos. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgado em 24 de abril.
No atentado ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola local, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI afirmou ter identificado a conta da suspeita por meio de seus sistemas de detecção de abuso e banido-a do ChatGPT em junho do ano anterior, oito meses antes da tragédia.
Altman explicou que a empresa não comunicou as autoridades canadenses porque, na avaliação da equipe, a atividade na conta da usuária não era grave o suficiente para justificar um alerta à polícia. “Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, disse o CEO na carta. Ele acrescentou que o pedido de desculpas foi tardio para respeitar o período de luto da comunidade de Tumbler Ridge.
O primeiro-ministro da Colúmbia Britânica classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais temem que o incidente exponha lacunas nos processos de monitoramento e comunicação entre empresas de tecnologia e forças policiais.
A OpenAI utiliza sistemas automatizados para moderação de conteúdo em tempo real. Contas que violam regras, como exploração sexual, promoção de violência, automutilação ou suicídio, podem ser suspensas ou banidas. Em situações graves, o sistema sinaliza os casos para revisão humana e, se houver ameaça crível, os dados podem ser compartilhados com autoridades.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram aplicar medidas regulatórias caso não houvesse melhorias. A empresa anunciou reforço das medidas de segurança e criou um canal de contato direto com a polícia para facilitar comunicação futura.
A família de uma das vítimas do tiroteio, uma menina que ficou gravemente ferida, entrou com ação judicial contra a OpenAI, alegando negligência. Segundo a família, a empresa sabia do plano da atiradora para um ato com “mortes em massa”, mas não tomou as medidas necessárias para impedir o ataque.
Em sua carta, Altman afirmou que a OpenAI pretende trabalhar com os governos para evitar novos episódios semelhantes. “Nosso foco continuará sendo colaborar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, afirmou.
O incidente levanta questões sobre a eficácia dos sistemas automatizados das plataformas de inteligência artificial e a responsabilidade das empresas em monitorar e reportar comportamentos potencialmente perigosos de seus usuários.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, ataque em escola, moderação de conteúdo, segurança digital, responsabilidade de IA, denúncia de violência, Colúmbia Britânica, violência em massa, pedido de desculpas, ação judicial, sistemas automatizados.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
