Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A manifestação de responsabilidade foi divulgada mais de dois meses após a tragédia, na sexta-feira (24).

No dia 10 de fevereiro, uma mulher de 18 anos assassinou a mãe e o meio-irmão em sua casa, depois disparou contra alunos e um professor em uma escola secundária na mesma cidade, antes de cometer suicídio. O ataque resultou em dez mortes, incluindo a atiradora, e deixou 25 feridos.

A OpenAI identificou a conta da suspeita em junho, oito meses antes do ataque, e a baniu do ChatGPT por violações às regras de uso. A empresa afirmou que não comunicou a polícia na época por considerar que a gravidade do conteúdo não justificava a notificação às autoridades.

Altman disse estar “profundamente arrependido” por não ter acionado as autoridades policiais e afirmou que o pedido de desculpas é uma forma de reconhecer o dano sofrido pela comunidade. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI informa que utiliza sistemas automatizados para monitorar conteúdos do chatbot em tempo real, bloqueando ou banindo contas que violam regras como promoção de violência, automutilação e suicídio. Em casos de riscos graves, o sistema pode sinalizar para revisão humana e, se confirmada uma ameaça, compartilhar informações com a polícia.

Após o ataque, autoridades canadenses reuniram-se com a equipe de segurança da OpenAI e ameaçaram medidas regulatórias se não houvesse melhorias nos protocolos de segurança. A empresa prometeu reforçar suas medidas e criar uma linha direta com a polícia.

Altman destacou que a OpenAI pretende continuar colaborando com governos para evitar novos episódios similares. Enquanto isso, a família de uma das vítimas feridas move uma ação judicial contra a empresa, alegando negligência e afirmando que a OpenAI tinha conhecimento do plano da atiradora e não agiu.

A tragédia em Tumbler Ridge reacende o debate sobre a responsabilidade de plataformas digitais diante de conteúdos que podem indicar risco à segurança pública e a necessidade de transparência e protocolos mais rigorosos para prevenção.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, Tumbler Ridge, ataque a tiros, ChatGPT, tragédia Canadá, segurança digital, moderação de conteúdo, ação judicial, responsabilidade tecnológica.

Fonte: g1.globo.com