Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um ataque com múltiplas mortes em fevereiro.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou oito pessoas, incluindo a própria mãe e um meio-irmão em casa, e depois matou cinco estudantes e um professor em uma escola secundária antes de tirar a própria vida. A OpenAI afirmou que havia identificado e banido a conta da suspeita no ChatGPT oito meses antes da tragédia, em junho, mas não comunicou as autoridades canadenses na época.

Altman declarou estar “profundamente arrependido” por a empresa não ter acionado a polícia sobre a conta banida. Em uma carta direcionada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman afirmou que o pedido de desculpas era necessário para reconhecer a perda da comunidade, mas justificou a demora na manifestação para respeitar o luto da população local.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele e outras autoridades exigem ações mais efetivas para evitar incidentes semelhantes no futuro.

A OpenAI explicou que seus sistemas automatizados de moderação analisam conteúdos em tempo real e podem banir contas por violações graves, como promoção de violência. Além disso, em casos considerados de alto risco, a empresa sinaliza comportamentos para revisão humana e pode compartilhar informações com a polícia.

Após o ataque, a equipe de segurança da OpenAI foi convocada pelas autoridades canadenses, que ameaçaram medidas regulatórias caso a empresa não fortalecesse seus protocolos. A OpenAI anunciou que criou um canal direto de comunicação com as forças policiais e que pretende ampliar suas ações para prevenir novos incidentes.

Altman ressaltou o compromisso da OpenAI em colaborar com governos para evitar tragédias futuras. Ele afirmou que a empresa continuará trabalhando para aprimorar as medidas de segurança e melhorar o monitoramento de comportamentos suspeitos.

Enquanto isso, a família de uma das vítimas entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para um ataque em massa, mas não tomou medidas adequadas para impedir a tragédia.

O caso levanta questionamentos sobre as responsabilidades das tecnologias baseadas em inteligência artificial na prevenção de crimes e na comunicação com autoridades em situações de risco.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque em escola, segurança em IA, moderação de conteúdo, responsabilidade tecnológica, ação judicial, Canadá, prevenção de violência.

Fonte: g1.globo.com