Ceo da openai pede desculpas à polícia do canadá por não rel

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre mensagens preocupantes enviadas por uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque. O pedido de desculpas foi enviado ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

A ex-usuária, uma mulher transgênero de 18 anos, matou a mãe e o meio-irmão em casa antes de ir a uma escola local e atirar em cinco alunos e um professor, antes de tirar a própria vida. A OpenAI afirmou ter identificado e banido a conta da suspeita em junho do ano anterior, oito meses antes da tragédia, mas não compartilhou as informações com a polícia.

Sam Altman declarou estar “profundamente arrependido” por não ter alertado as autoridades sobre o comportamento da usuária, embora tenha afirmado que a atividade detectada não parecia grave o suficiente na época para justificar o contato com a polícia. Ele explicou que o pedido de desculpas foi feito somente agora para respeitar o luto da comunidade.

A OpenAI utiliza sistemas automatizados para moderar conteúdos em tempo real, restringindo ou banindo contas que violam regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos de alto risco, os sistemas sinalizam o comportamento para revisão humana e podem, em seguida, compartilhar dados com as autoridades quando uma ameaça crível é identificada.

Após o ataque, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e ameaçaram aplicar ações regulatórias caso a empresa não aprimorasse suas medidas. A empresa anunciou que pretende reforçar os protocolos de segurança e que já criou um canal direto de comunicação com a polícia local.

Na carta, Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar que incidentes semelhantes aconteçam no futuro. “Nosso foco continuará sendo colaborar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, escreveu.

A família de uma menina que ficou gravemente ferida no ataque entrou com ação judicial contra a OpenAI, alegando negligência da empresa. Segundo o processo, a OpenAI teria conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas adequadas para impedir a tragédia.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, e alertou para a necessidade de mudanças efetivas nas políticas de monitoramento e comunicação da empresa.

Este episódio reforça o debate sobre o papel das empresas de tecnologia na prevenção de crimes relacionados ao uso de ferramentas digitais e o equilíbrio entre privacidade e segurança pública.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, denúncia de violência, ação judicial, tecnologia e segurança, responsabilidade corporativa.

Fonte: g1.globo.com