Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, após investigações mostrarem que a empresa identificou e baniu a conta da suspeita oito meses antes do crime.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária, matando cinco crianças e um professor antes de tirar a própria vida. A OpenAI confirmou que identificou a usuária por meio dos sistemas de moderação e bloqueou sua conta em junho do ano anterior, mas não comunicou a polícia, alegando que as evidências não eram suficientes para encaminhamento às autoridades.

Altman afirmou estar “profundamente arrependido” pela falha em alertar a polícia e que o pedido de desculpas buscou respeitar o período de luto da comunidade. Ele destacou ainda que a empresa está comprometida em melhorar seus processos de segurança para evitar tragédias futuras e afirmou que trabalhará com governos para reforçar esses mecanismos.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses pressionaram a OpenAI a aprimorar sua segurança e estabeleceram um canal direto de comunicação com a polícia para futuros casos.

A OpenAI utiliza sistemas automatizados para detectar conteúdos que violam regras do chatbot, como promoção de violência, suicídio e exploração sexual. Esses sistemas sinalizam casos graves para revisão humana e podem apontar situações de risco para as autoridades, segundo a empresa.

A família de uma das vítimas feridas no ataque processa a empresa nos Estados Unidos por negligência, alegando que a OpenAI tinha conhecimento dos planos da atiradora para um evento com mortes em massa e não tomou medidas adequadas.

Após a tragédia, o debate sobre o uso de inteligência artificial em plataformas públicas ganhou força, com foco na responsabilidade das empresas em monitorar e reportar conteúdos perigosos. A OpenAI reforçou que seguirá investindo em prevenção e cooperação com órgãos competentes para evitar casos semelhantes.

O caso de Tumbler Ridge destaca os desafios de balancear a privacy dos usuários e a segurança pública em tecnologias emergentes. O episódio também levanta questões sobre os limites e responsabilidades das empresas de inteligência artificial diante de sinais de violência iminente.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa Canadá, denúncia de violência, moderação de conteúdo IA, responsabilidade de inteligência artificial, segurança digital, processos legais OpenAI.

Fonte: g1.globo.com