Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não alertar a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi formalizado em carta divulgada em 24 de abril, após mais de dois meses da tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária local, onde matou cinco alunos e um professor. Depois, ela tirou a própria vida. A OpenAI confirmou que havia banido a suspeita do ChatGPT em junho do ano anterior, oito meses antes do ataque.

A empresa não notificou as autoridades canadenses na época porque avaliou que o conteúdo gerado pela usuária não apresentava gravidade suficiente para um encaminhamento formal. Sam Altman afirmou estar “profundamente arrependido” por não ter acionado a polícia sobre o caso.

O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas necessário, mas “grosseiramente insuficiente”. Autoridades locais também demandam uma revisão das políticas e sistemas de segurança da OpenAI para evitar incidentes semelhantes.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos no ChatGPT, identificando violações como exploração sexual, apoio à automutilação, suicídio e promoção de violência. Quando há indícios de ameaça grave, a empresa pode encaminhar dados às autoridades para investigação.

Após o ataque em Tumbler Ridge, a equipe de segurança da OpenAI foi convocada por autoridades canadenses, que ameaçaram medidas regulatórias caso a empresa não reforçasse suas práticas de segurança. Em resposta, a OpenAI criou um canal de comunicação direta com a polícia local.

Sam Altman destacou que a OpenAI está comprometida em trabalhar com governos para evitar futuras tragédias, buscando aprimorar seus processos e mecanismos de detecção. A empresa afirmou que continuará investindo em ferramentas para identificar e coibir conteúdos de alto risco.

Família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento de planos da atiradora sobre um “evento com mortes em massa” e não tomou medidas para impedir o ataque.

O caso ampliou o debate sobre a responsabilidade das plataformas de inteligência artificial na prevenção de crimes e o limite entre privacidade e monitoramento de usuários. Autoridades e especialistas acompanham as investigações e o desenvolvimento de regulamentos específicos para esse setor.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, pedido de desculpas, tiroteio em massa, Tumbler Ridge, ChatGPT, segurança em IA, moderação de conteúdo, responsabilidade digital, ataque no Canadá, regulação de IA, ação judicial, prevenção de violência, sistemas de detecção, comunicação com autoridades.

Fonte: g1.globo.com