Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um ataque em fevereiro. O incidente resultou na morte de oito pessoas, incluindo cinco crianças, um professor, a mãe e o meio-irmão da suspeita.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou familiares em casa e depois abriu fogo em uma escola local, tirando a própria vida em seguida. A OpenAI informou que a conta da usuária foi identificada e banida do ChatGPT em junho do ano anterior, oito meses antes do ataque.

A empresa não notificou as autoridades canadenses na época porque entendeu que a atividade na conta não era grave o suficiente para justificar um reporte formal. Em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman expressou arrependimento pelo erro.

“Estou profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”, afirmou Altman. Ele justificou o atraso no pedido de desculpas, alegando respeito pelo período de luto dos moradores.

David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a necessidade de ações mais firmes da OpenAI. Autoridades canadenses convocaram a equipe de segurança da empresa e ameaçaram medidas regulatórias caso aprimoramentos não fossem implementados.

A OpenAI afirmou que usa sistemas automatizados para detectar e moderar conteúdos inadequados em tempo real, incluindo violência, automutilação e incitação ao suicídio. Em casos de alto risco, comportamentos suspeitos são revisados por humanos e dados podem ser compartilhados com a polícia.

Após o ataque, a empresa declarou que reforçará suas medidas de segurança e estabeleceu um canal direto de comunicação com as autoridades. Altman disse que a empresa está comprometida em evitar tragédias semelhantes.

Além do pedido público de desculpas, uma família de uma vítima ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências.

O incidente reabre o debate sobre o papel das plataformas digitais no monitoramento e prevenção de crimes violentos, e sobre a responsabilidade das empresas de tecnologia no compartilhamento de informações com as autoridades.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio Canadá, Tumbler Ridge, violência online, moderação de conteúdo, responsabilidade digital, ações judiciais tecnologia, segurança digital.

Fonte: g1.globo.com