Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma ex-usuária do ChatGPT que cometeu um ataque em massa em fevereiro. O tiroteio resultou em nove mortos, incluindo a atiradora.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco crianças e um professor, e depois tirou a própria vida. O ataque causou ainda dezenas de feridos.
A OpenAI identificou a conta da suspeita em junho do ano anterior por meio de seus sistemas de detecção de abuso e a baniu do ChatGPT, mas não comunicou o caso às autoridades canadenses. A empresa alegou que a atividade não foi considerada grave o suficiente para justificar o encaminhamento policial.
Na carta divulgada em 24 de abril, Altman expressou arrependimento por não ter notificado a polícia na época. Ele afirmou que o pedido de desculpas foi feito agora para respeitar o luto da comunidade de Tumbler Ridge, mas reconheceu a gravidade do ocorrido.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele destacou a necessidade de respostas mais firmes para evitar novos episódios semelhantes.
A OpenAI explicou que seus sistemas automatizados monitoram conteúdos em tempo real, podendo restringir ou banir contas que violem regras contra exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de risco elevado, o sistema alerta revisores humanos para possível notificação às autoridades.
Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso melhorias não fossem implementadas. A empresa afirmou que reforçaria suas políticas de segurança e estabeleceria um canal direto com a polícia local.
A carta de Altman também destacou o compromisso da OpenAI em colaborar com governos para prevenir tragédias futuras. A empresa busca formas de aprimorar a identificação e resposta a ameaças pelo uso da inteligência artificial.
Familiares de vítimas, incluindo uma menina gravemente ferida no tiroteio, entraram com ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências.
O episódio levantou debates sobre a responsabilidade de plataformas de inteligência artificial na prevenção de crimes e o limite do monitoramento de usuários, além do papel do setor tecnológico em enfrentar riscos sociais associados a seus produtos.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, denúncia de violência, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ação judicial, indústria de IA, prevenção de crimes, política de segurança, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
