O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes em uma conta do ChatGPT que estava associada à suspeita de um ataque a tiros ocorrido em fevereiro. O incidente resultou na morte de oito pessoas, incluindo cinco crianças, um professor, a mãe e o meio-irmão da atiradora.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela decisão da empresa de não reportar à polícia o comportamento da usuária banida do ChatGPT em junho do ano passado. Segundo Altman, a atividade identificada não foi considerada grave o suficiente para justificar um encaminhamento às autoridades naquele momento.

O ataque ocorreu no dia 10 de fevereiro, quando uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa e depois abriu fogo em uma escola secundária local. Após matar cinco alunos e um professor, ela tirou a própria vida. A suspeita foi banida da plataforma oito meses antes do ataque devido a conteúdos que violavam as regras de uso.

O primeiro-ministro David Eby qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, criticando a atuação da OpenAI diante dos fatos. Ele destacou a necessidade de medidas mais rigorosas para evitar que casos semelhantes voltem a acontecer.

A OpenAI explicou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real e restringir ou banir contas que violem suas regras, que incluem a proibição de exploração sexual, incentivo à automutilação, suicídio, violência e promoção de danos. Quando um comportamento de alto risco é identificado, o sistema sinaliza o caso para revisão humana e pode encaminhar informações relevantes às autoridades.

Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram adotar ações regulatórias caso medidas não fossem aprimoradas. A empresa anunciou que reforçaria seus mecanismos de segurança e estabeleceria um canal de comunicação direto com a polícia.

Na carta, Altman afirmou que a OpenAI está comprometida em colaborar com os governos para prevenir tragédias futuras. Ele ressaltou a importância de “trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”.

Além disso, a família de uma menina ferida gravemente no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento sobre os planos da atiradora para um ataque em massa, mas não tomou nenhuma medida para impedir o ocorrido.

A situação reforça o debate sobre a responsabilidade das empresas de tecnologia no monitoramento e controle de conteúdos potencialmente perigosos em suas plataformas. O episódio levantou dúvidas sobre os limites e as ações que devem ser adotadas para evitar o uso indiscriminado dessas ferramentas para fins violentos.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ações judiciais, violência em massa, tecnologia e segurança.

Fonte: g1.globo.com