Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de ela cometer um ataque que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após o incidente, em uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de atacar uma escola secundária local, onde matou cinco estudantes e um professor, e depois tirou a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior por violar as regras da plataforma.

A OpenAI explicou que não repassou as informações à polícia na época porque a atividade detectada não foi considerada grave o suficiente para justificar o encaminhamento às autoridades. Altman afirmou estar “profundamente arrependido” pela decisão e reconheceu o impacto irreversível da tragédia em Tumbler Ridge.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses já haviam cobrado medidas da OpenAI após o ataque, ameaçando ações regulatórias caso a empresa não reforçasse suas políticas de segurança.

A OpenAI utiliza sistemas automatizados para monitorar conteúdos e pode restringir ou banir contas que violem regras relativas a exploração sexual, automutilação, suicídio, violência e danos. Em casos graves, comportamentos de alto risco são sinalizados para revisão humana e podem ser compartilhados com a polícia.

Após o incidente, a empresa afirmou que criou um canal de comunicação direto com as autoridades e se comprometeu a trabalhar com governos para evitar novas tragédias. Altman destacou que o foco será reforçar a segurança e a cooperação com entidades legais.

A família de uma vítima entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora, mas não agiu para impedir o ataque. O caso ainda está em andamento.

A tragédia em Tumbler Ridge colocou em evidência o desafio das plataformas digitais em lidar com conteúdos potencialmente perigosos e a responsabilidade em comunicar autoridades quando ameaças são identificadas. As discussões sobre regulação e segurança vêm ganhando espaço após o evento.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, violência online, moderação de conteúdo, segurança digital, ação judicial, responsabilidade corporativa

Fonte: g1.globo.com