Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela decisão da empresa de não alertar a polícia a respeito de mensagens preocupantes trocadas por uma ex-usuária do ChatGPT, suspeita de um ataque a tiros que deixou oito mortos em fevereiro. O pedido foi feito por meio de uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola e abriu fogo, matando cinco crianças, um professor, e tirando a própria vida em seguida. A suspeita havia sido banida do ChatGPT em junho do ano anterior por violação das políticas da plataforma.

Segundo Altman, a empresa identificou a conta da usuária por meio de seus sistemas automatizados de detecção de abuso, mas decidiu não comunicar as autoridades na época por entender que o conteúdo não justificava um alerta policial. O CEO afirmou estar “profundamente arrependido” por essa decisão e destacou que o pedido de desculpas veio após um período para respeitar o luto da comunidade.

David Eby chamou o pedido de desculpas de “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade da situação e a resposta da empresa. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram abrir processos regulatórios caso não houvesse reforço nas medidas preventivas.

A OpenAI explicou que utiliza sistemas automatizados para monitorar conteúdos em tempo real e que contas podem ser banidas por violar regras relacionadas a exploração sexual, suicídio, automutilação e promoção de violência. Em casos considerados graves, comportamentos suspeitos devem ser sinalizados para revisão humana e podem levar à comunicação com a polícia.

Em resposta à tragédia, a empresa prometeu aprimorar suas medidas de segurança e estabeleceu um canal direto de comunicação com autoridades policiais para casos futuros. Altman afirmou que o compromisso da OpenAI é trabalhar com governos para evitar incidentes semelhantes.

Além do pedido de desculpas, a empresa enfrenta uma ação judicial movida por familiares de uma das vítimas feridas no tiroteio. Eles acusam a OpenAI de negligência, alegando que a empresa tinha conhecimento do planejamento do ataque, mas não tomou medidas para impedir o evento.

A carta de Altman e os desdobramentos do caso refletem a crescente preocupação sobre o papel de plataformas de inteligência artificial no monitoramento e intervenção em situações de risco, bem como a responsabilidade dessas empresas diante de crimes que envolvem seus serviços.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, inteligência artificial, segurança digital, moderação de conteúdo, responsabilidade empresarial, ação judicial.

Fonte: g1.globo.com