Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária no ChatGPT antes de um ataque que matou oito pessoas em fevereiro. A empresa havia banido a suspeita oito meses antes, mas não repassou informações às autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, atirou contra cinco crianças e um professor em uma escola local, antes de tirar a própria vida. Após o ataque, a OpenAI afirmou ter identificado a conta da atiradora em seus sistemas de moderação e bloqueado o acesso em junho do ano anterior.

Sam Altman declarou arrependimento por não ter comunicado a polícia canadense sobre as atividades da conta banida. Em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou que o pedido de desculpas é necessário para reconhecer o impacto da tragédia, embora saiba que palavras não revertam as perdas.

O primeiro-ministro David Eby classificou o pedido de desculpas como necessário, mas insuficiente. Autoridades canadenses exigiram que a OpenAI reforçasse suas medidas de segurança e criasse um canal de comunicação direta com a polícia para evitar casos semelhantes.

A OpenAI usa sistemas automatizados para analisar conteúdos em tempo real e restringir contas que violam suas regras, que abrangem exploração sexual, automutilação, suicídio e promoção de violência. Em situações graves, os sistemas sinalizam para revisão humana e podem compartilhar dados com as autoridades.

Após o ataque, a empresa informou que continuará a trabalhar com governos para evitar novas tragédias. Altman ressaltou o compromisso da OpenAI em aprimorar os processos de segurança e colaborar com as autoridades.

Familiares de uma menina gravemente ferida no ataque entraram com ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para cometer um massacre, mas não tomou providências.

O incidente reacendeu debates sobre a responsabilidade das empresas de tecnologia no monitoramento e prevenção de crimes motivados ou anunciados em plataformas digitais. O caso permanece em investigação e poderá influenciar futuras regulamentações do setor.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, polícia canadense, moderação de conteúdo, segurança digital, ação judicial, responsabilidade tecnológica.

Fonte: g1.globo.com