Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um ataque com múltiplas mortes em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou oito pessoas, incluindo membros da própria família e alunos e um professor de uma escola local, antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após os sistemas de moderação da OpenAI identificarem conteúdo de risco em sua conta.

A OpenAI não notificou as autoridades na ocasião porque avaliou que o comportamento da usuária não justificava encaminhamento oficial. Altman disse estar “profundamente arrependido” pela falta de aviso às forças de segurança e afirmou que o pedido de desculpas busca reconhecer a “perda irreversível” sofrida pela comunidade de Tumbler Ridge.

David Eby classificou a carta de Altman como um gesto “necessário, e ainda assim grosseiramente insuficiente”. O primeiro-ministro disse que espera mais ações para evitar que incidentes assim se repitam.

A OpenAI explicou que usa sistemas automatizados para monitorar conversas no ChatGPT em tempo real. Contas que violam políticas, como promoção de violência, automutilação ou exploração sexual, são bloqueadas. Em situações graves, o caso é revisado por humanos, e dados relevantes podem ser repassados às autoridades.

Após o tiroteio, autoridades canadenses conversaram com a equipe de segurança da OpenAI e cobraram mudanças. A empresa afirmou que vai reforçar a segurança e firmou um canal direto para comunicação com a polícia.

A família de uma das vítimas que ficaram gravemente feridas entrou com uma ação por negligência contra a OpenAI, alegando que a empresa sabia dos planos da suspeita para um “evento com mortes em massa” e não tomou providências.

Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar novas tragédias semelhantes. Ele destacou que, apesar das palavras, a prioridade da empresa é agir para garantir que casos como esse não ocorram novamente.

—

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, ataque em escola, segurança digital, moderação de conteúdo, denúncia de violência, ação judicial OpenAI.

Fonte: g1.globo.com