Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após não ter alertado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT que cometeu um ataque criminoso em fevereiro. A mulher, banida da plataforma oito meses antes, matou oito pessoas antes de tirar a própria vida.

No dia 10 de fevereiro, a atiradora de 18 anos assassinou a mãe e o meio-irmão em casa, em seguida abriu fogo em uma escola local, onde matou cinco estudantes e um professor. Após o ataque, a OpenAI confirmou que a conta da suspeita foi identificada e banida em junho do ano anterior, mas sem comunicação às autoridades policiais canadenses.

A empresa justificou que a suspensão da conta não resultou em denúncia porque a atividade não foi considerada grave o suficiente para notificar as autoridades. Altman, em carta divulgada em 24 de abril ao primeiro-ministro da Colúmbia Britânica, David Eby, afirmou estar “profundamente arrependido” por não ter informado a polícia e reconheceu o impacto da tragédia para a comunidade de Tumbler Ridge.

Eby respondeu que o pedido de desculpas foi “necessário, e ainda assim grosseiramente insuficiente”, reforçando críticas à postura da empresa. A OpenAI disse que evitou emitir o pedido de desculpas antes para não interferir no período de luto da população local.

A OpenAI utiliza sistemas automatizados para detectar abusos no ChatGPT, que analisam conteúdos e podem banir contas por violações, como promoção de violência ou suicídio. Em casos graves, o sistema sinaliza os conteúdos para revisão humana e pode encaminhar informações às autoridades.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e alertaram para possíveis ações regulatórias caso as medidas de segurança não fossem reforçadas. A empresa se comprometeu a aprimorar a detecção de riscos e estabeleceu um canal de comunicação direta com a polícia.

Sam Altman afirmou que a OpenAI continuará a colaborar com governos para evitar incidentes semelhantes e destacou que o foco agora é evitar futuras tragédias. Em paralelo, a família de uma menina gravemente ferida no ataque move uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do plano da atiradora e não tomou providências adequadas.

O caso levanta discussões sobre a responsabilidade das empresas de tecnologia na monitoria de conteúdos potencialmente perigosos e reforça a necessidade de mecanismos eficazes para prevenir crimes decorrentes do uso de suas plataformas.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, polícia, segurança digital, moderação de conteúdo, responsabilidade corporativa, ataque a tiros, denúncia, tecnologia, ataque escolar, justiça, prevenção

Fonte: g1.globo.com