Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela empresa não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que mais tarde cometeu um ataque com oito mortes em fevereiro deste ano. A retratação foi feita em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, divulgada em 24 de abril.

No ataque ocorrido em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão na casa da família antes de abrir fogo em uma escola próxima, causando a morte de cinco alunos e um professor. Após o ataque, a atiradora cometeu suicídio. A OpenAI identificou e baniu a usuária do ChatGPT oito meses antes do crime, em junho do ano anterior.

Apesar de ter detectado a conta com conteúdos preocupantes por meio de seus sistemas de detecção de abuso, a empresa não comunicou a polícia canadense, alegando que a gravidade da atividade não justificava o encaminhamento às autoridades. Na carta, Altman afirmou estar “profundamente arrependido” pela falha em não alertar a polícia.

O primeiro-ministro David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele enfatizou a importância de medidas eficazes para evitar que incidentes como esse se repitam.

A OpenAI utiliza sistemas automatizados de moderação para analisar conteúdos enviados ao ChatGPT em tempo real. Contas que violam as regras, que incluem exploração sexual, apoio à automutilação e promoção de violência, podem ser restritas ou banidas. Em situações graves, esses sistemas sinalizam comportamentos de alto risco para revisão humana e podem compartilhar informações com autoridades policiais.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso a empresa não aprimorasse seus protocolos. A OpenAI informou que reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia.

Na carta de desculpas, Altman afirmou que a empresa está empenhada em trabalhar com governos para prevenir novas tragédias similares. “Nosso foco continuará sendo colaborar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, disse ele.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou providências para impedir.

O episódio expõe desafios na moderação e na responsabilidade das plataformas de inteligência artificial diante de conteúdos que possam representar ameaças reais. A OpenAI enfrenta pressão para aprimorar seus sistemas e estabelecer protocolos mais rigorosos de comunicação com autoridades.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, moderação de conteúdo, violência online, responsabilidade tecnologia, segurança IA, ação judicial OpenAI

Fonte: g1.globo.com