Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT, que causou um ataque com oito mortes em fevereiro. O pedido ocorreu após críticas e pressão das autoridades locais que consideraram a resposta da empresa insuficiente.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária de Tumbler Ridge. O ataque deixou cinco crianças e um professor mortos; a própria atacante tirou a vida em seguida.

A OpenAI informou que, em junho do ano anterior, identificou a conta da suspeita por meio de seus sistemas automáticos de moderação e a baniu do ChatGPT. A empresa não comunicou a polícia na época porque avaliou que o comportamento não cumpria critérios para uma denúncia formal.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman declarou estar “profundamente arrependido” por não ter alertado as autoridades. Ele afirmou que o pedido de desculpas, divulgado em 24 de abril, reconhece o dano e a perda sofrida pela comunidade.

O governo local avaliou o pedido de Altman como “necessário, e ainda assim grosseiramente insuficiente”. As autoridades canadenses pressionaram a OpenAI por mudanças nas políticas de segurança e criaram um canal direto de comunicação com as forças policiais.

O sistema da OpenAI usa moderação automatizada para analisar conteúdos gerados pelos usuários em tempo real. A empresa bloqueia ou restringe acessos que envolvam atividades como exploração sexual, incentivo à automutilação, suicídio e promoção de violência.

Quando identificados riscos graves, os conteúdos são enviados para revisão humana. Caso uma ameaça seja considerada crível, a empresa pode repassar informações às autoridades. No entanto, a OpenAI não seguiu esse procedimento antes do ataque em Tumbler Ridge.

Após o incidente, a empresa afirmou que está comprometida em aprimorar suas estratégias para prevenir tragédias futuras. Altman destacou que o foco será a colaboração com governos para evitar ocorrências semelhantes.

A família de uma das vítimas feridas no tiroteio entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do plano da suspeita para cometer um ataque com mortes em massa, mas não tomou providências.

O caso reabre o debate sobre a responsabilidade das plataformas digitais na detecção e repasse de ameaças que envolvem violência. A OpenAI intensifica esforços para revisar seus protocolos de segurança e moderação de conteúdo diante da pressão internacional.

Palavras-chave relacionadas: OpenAI, Sam Altman, chatGPT, Tumbler Ridge, ataque a tiros, moderação de conteúdo, violência online, responsabilidade digital, segurança em plataformas, ação judicial.

Fonte: g1.globo.com