O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que meses depois cometeu um ataque que resultou em oito mortes. O pedido foi divulgado em carta enviada em abril, mais de dois meses após o tiroteio ocorrido em fevereiro de 2023.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária da cidade na Colúmbia Britânica, Canadá. Ela matou cinco alunos e um professor antes de tirar a própria vida. A OpenAI afirmou ter banido a conta da suspeita em junho de 2022 após identificar atividades consideradas abusivas em seus sistemas de moderação.

Sam Altman admitiu o erro de a empresa não ter informado as autoridades policiais canadenses na época, justificando que a atividade detectada não foi considerada grave o suficiente para desencadear uma comunicação formal. Em sua carta, ele afirmou estar “profundamente arrependido” e reconheceu o impacto irreversível da tragédia na comunidade de Tumbler Ridge.

As autoridades locais criticaram o pedido de desculpas. O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a manifestação como “necessária, e ainda assim grosseiramente insuficiente”. O governo canadense também pressionou a OpenAI a aprimorar seus sistemas de segurança, ameaçando ações regulatórias caso as medidas não fossem reforçadas.

A OpenAI detalha que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real, podendo restringir ou banir contas que violem suas regras. Em situações de risco elevado, os casos são revisados por humanos, e dados relevantes podem ser compartilhados com a polícia caso uma ameaça crível seja identificada.

Após o ocorrido, a empresa criou canais de comunicação direta com autoridades policiais e prometeu trabalhar com todos os níveis de governo para evitar incidentes semelhantes no futuro. Altman destacou o compromisso da empresa em buscar formas de impedir tragédias como a de Tumbler Ridge.

Uma família de vítima ferida no ataque entrou com ação judicial contra a OpenAI, acusando a empresa de negligência por supostamente conhecer planos da suspeita para “um evento com mortes em massa” e não ter tomado medidas para impedir o crime.

O episódio levanta questionamentos sobre a responsabilidade e os limites das tecnologias de inteligência artificial na detecção e prevenção de ameaças violentas, além dos desafios no compartilhamento de informações com autoridades.

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, Canadá, segurança digital, moderação de conteúdo, inteligência artificial, denúncia de violência, responsabilidade tecnológica, ação judicial.

Fonte: g1.globo.com