Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes em uma conta do ChatGPT que estava associada a uma agressora que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após o ataque, ocorrido na Colúmbia Britânica, em um contexto em que a empresa explicou que a atividade detectada não justificava, na época, um alerta às autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local, onde abriu fogo e matou cinco crianças e um professor. Ela se suicidou após o ataque. A OpenAI afirmou ter banido a usuária do ChatGPT oito meses antes do crime, em junho do ano anterior, por violações de suas políticas internas.

A companhia explicou que os sistemas automatizados de moderação identificaram comportamentos que violavam suas regras, como promoção de violência e incentivo à automutilação, e restringiram a conta imediatamente. No entanto, a empresa não comunicou a polícia canadense naquele momento, argumentando que a gravidade da conduta não era suficiente para acionar as autoridades.

Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman expressou arrependimento e afirmou entender a perda sofrida pela comunidade. Ele justificou a demora no pedido de desculpas como uma forma de respeitar o luto dos habitantes de Tumbler Ridge. Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”.

Após o ataque, autoridades canadenses solicitaram reuniões com a equipe de segurança da OpenAI e indicaram a possibilidade de medidas regulatórias caso as práticas não fossem revistas. A empresa anunciou que reforçaria suas políticas de segurança e estabeleceria canais diretos de comunicação com a polícia local.

A OpenAI detalhou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real e podem restringir ou banir usuários cujas ações violem suas normas. Em casos graves, comportamentos de alto risco podem ser sinalizados para revisão humana, o que pode levar ao compartilhamento de dados relevantes com autoridades policiais.

Na carta, Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar futuros incidentes semelhantes. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, afirmou.

A família de uma das vítimas gravemente feridas no tiroteio entrou com ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a companhia tinha conhecimento do planejamento do ataque, mas não adotou medidas para impedir a tragédia.

O caso coloca em evidência os desafios do uso de inteligência artificial e moderação de conteúdo na prevenção de atos de violência e levanta questões sobre a responsabilidade das empresas de tecnologia em monitorar e agir diante de sinais de risco nas plataformas que desenvolvem.

—

Palavras-chave: Sam Altman, OpenAI, Tumbler Ridge, tiroteio, ChatGPT, Colúmbia Britânica, violência, moderação de conteúdo, segurança, ação judicial, inteligência artificial, prevenção, denúncia, tragédia, governo, polícia.

Fonte: g1.globo.com