Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que depois cometeu um ataque com oito mortos em fevereiro. O pedido ocorreu em 24 de abril, mais de dois meses após a tragédia, em resposta a críticas sobre a falta de comunicação da empresa com as autoridades.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola local e abriu fogo, deixando cinco crianças e um professor mortos, antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT pela OpenAI em junho do ano anterior, após o sistema identificar comportamentos abusivos em sua conta.

Altman declarou estar “profundamente arrependido” por a empresa não ter comunicado a polícia na época do banimento da usuária. Segundo ele, a decisão inicial de não reportar foi baseada na avaliação de que a atividade não tinha gravidade suficiente para justificar o encaminhamento às autoridades. O CEO afirmou que o pedido de desculpas era necessário para reconhecer a perda sofrida pela comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade da falha da OpenAI. Autoridades canadenses ameaçaram a empresa com ações regulatórias caso as medidas de segurança não fossem reforçadas após o ataque.

A OpenAI explicou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real para detectar e restringir comportamentos que violam regras, como incentivo à violência, automutilação e suicídio. Em casos graves, as atividades são revisadas por humanos, que podem compartilhar dados com a polícia se houver ameaça concreta.

Após a tragédia, a empresa anunciou a criação de um canal direto de comunicação com as autoridades policiais e a intensificação das medidas de segurança para evitar novos incidentes. Altman afirmou que a OpenAI continuará a colaborar com governos para prevenir eventos semelhantes.

Além das críticas públicas, a família de uma das vítimas entrou com uma ação judicial alegando negligência da OpenAI. Eles afirmam que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências para impedir a tragédia.

O episódio levanta debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos e na cooperação com autoridades para prevenir atos violentos. A OpenAI busca ajustar seus procedimentos para garantir maior segurança e evitar novos casos.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, moderação de conteúdo, segurança digital, responsabilidade corporativa, ataque no Canadá, ação judicial.

Fonte: g1.globo.com