Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter avisado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta divulgada em 24 de abril, mais de dois meses após o ocorrido.

No dia 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi até uma escola secundária e atirou contra seis pessoas, incluindo cinco alunos e um professor, antes de tirar a própria vida. A OpenAI afirmou que identificou e baniu a conta da suspeita do ChatGPT em junho do ano anterior, oito meses antes do ataque.

Altman afirmou que não notificaram as autoridades policiais na ocasião porque a atividade na plataforma não indicava uma ameaça grave suficiente para justificar o acionamento da polícia. Na carta, ele disse estar “profundamente arrependido” pela falha em alertar as autoridades e reconheceu a perda sofrida pela comunidade.

O primeiro-ministro da Colúmbia Britânica, David Eby, avaliou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso não houvesse melhoria nas políticas de segurança.

A OpenAI usa sistemas automatizados para monitorar conteúdos em tempo real e pode restringir ou banir contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos de ameaça grave, os sistemas sinalizam para revisão humana e podem compartilhar informações com a polícia.

Altman garantiu que a empresa vai intensificar seu trabalho com governos para prevenir tragédias semelhantes. Ele destacou o compromisso da OpenAI em evitar que incidentes como o de Tumbler Ridge aconteçam novamente.

A família de uma criança ferida no ataque entrou com ação judicial contra a OpenAI, acusando a empresa de negligência por supostamente ter conhecimento dos planos da atiradora e não ter tomado medidas para impedir o ataque.

As autoridades seguem analisando os processos e mecanismos da OpenAI para reforçar a supervisão e a segurança no uso de inteligências artificiais como o ChatGPT.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, polícia, sistema de moderação, segurança digital, ação judicial, prevenção de violência, inteligência artificial.

Fonte: g1.globo.com