Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O incidente ocorreu em uma escola e em uma residência local, e o pedido veio mais de dois meses após a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em cinco estudantes e um professor em uma escola secundária antes de tirar a própria vida. A OpenAI identificou a conta da suspeita e a baniu do ChatGPT em junho do ano anterior, oito meses antes do ataque.

A empresa afirmou que não acionou a polícia na época porque a atividade detectada não foi considerada grave o suficiente para uma notificação às autoridades. Altman expressou arrependimento em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, informando sobre a decisão da empresa de se desculpar pela falha.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele afirmou que a resposta da OpenAI não atende às expectativas diante da gravidade do ocorrido e apresentou críticas à postura da empresa.

A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real para identificar violações relacionadas a exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Comportamentos classificados como de alto risco passam por revisão humana e, em casos considerados críveis, os dados são compartilhados com a polícia.

Após o ataque, autoridades canadenses contataram a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso a empresa não aprimorasse seus controles. A OpenAI afirmou que reforçaria suas ações de segurança e criou um canal direto de comunicação com as autoridades policiais.

Altman destacou ainda o compromisso da OpenAI em trabalhar com governos para prevenir episódios similares. Ele afirmou que o foco da empresa continuará sendo a colaboração com diferentes níveis governamentais para evitar futuras tragédias.

Familiares de uma das vítimas que sobreviveram com ferimentos graves entraram com uma ação judicial contra a OpenAI, alegando negligência da empresa. Eles afirmam que a companhia tinha conhecimento da intenção da atiradora de cometer um ataque com mortes em massa, mas não adotou nenhuma medida preventiva.

O caso levanta debates sobre o papel de empresas de tecnologia na identificação e comunicação de ameaças por meio de suas plataformas, especialmente em relação a sistemas automatizados de moderação e responsabilidade da gestão.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdos, responsabilidade corporativa, ações judiciais, violência em escolas, prevenção de crimes, comunicação com autoridades

Fonte: g1.globo.com