Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter avisado a polícia sobre conteúdos preocupantes produzidos por uma ex-usuária do ChatGPT, que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito em carta divulgada nesta sexta-feira (24), após críticas das autoridades locais.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em sua residência, antes de se dirigir a uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, onde matou cinco crianças e um professor. A suspeita, então, tirou a própria vida.

A OpenAI identificou a conta da mulher em junho do ano passado, oito meses antes do ocorrido, por meio de seus sistemas de detecção de abuso. A usuária foi banida do ChatGPT na ocasião, mas a empresa não reportou as informações às autoridades canadenses, alegando que a atividade não apresentava gravidade suficiente para justificar o contato com a polícia.

Altman disse estar “profundamente arrependido” pela omissão e justificou o atraso no pedido de desculpas, afirmando que a empresa quis respeitar o luto da população local. Ele também afirmou que a OpenAI está empenhada em trabalhar com os governos para evitar que casos semelhantes aconteçam.

O primeiro-ministro da Colúmbia Britânica, David Eby, avaliou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI após o ataque e ameaçaram aplicar ações regulatórias caso medidas de segurança não fossem aprimoradas.

Atualmente, a OpenAI utiliza sistemas automatizados para detectar conteúdos abusivos em tempo real, incluindo explorações sexuais, incentivo ao suicídio e promoção de violência. O sistema está programado para sinalizar casos de alto risco para revisão humana e pode compartilhar informações com a polícia quando detecta ameaças críveis.

Após a tragédia, a empresa reforçou suas medidas de segurança e implementou um canal direto de comunicação com as autoridades policiais locais. Apesar disso, familiares de uma vítima ferida no ataque entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência por supostamente conhecer os planos da atiradora e não agir para impedir o massacre.

A OpenAI afirmou que continuará colaborando com governos para aprimorar suas tecnologias e prevenir futuras tragédias. A investigação sobre o caso e os desdobramentos judiciais seguem em andamento.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque a tiros, Colúmbia Britânica, violência online, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ação judicial, prevenção de crimes, sistema de denúncia, tecnologia e segurança, tragédias evitáveis.

Fonte: g1.globo.com