Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes dela cometer um ataque que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após a tragédia, em uma carta divulgada nesta sexta-feira (24).

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou sua mãe e meio-irmão em casa, depois entrou em uma escola local e realizou um tiroteio, matando cinco estudantes e um professor antes de tirar a própria vida. A OpenAI identificou a conta da suspeita por meio de seus sistemas automatizados de detecção de abuso e a baniu do ChatGPT em junho do ano anterior, oito meses antes do ataque.

A empresa afirmou que não notificou as autoridades canadenses na época porque a atividade da usuária não atingia o nível considerado grave para justificar um repasse às forças policiais. Mesmo assim, Altman disse estar “profundamente arrependido” por não ter tomado essa medida. Ele alegou que o atraso no pedido de desculpas teve o objetivo de respeitar o período de luto dos moradores de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a declaração como “necessária, e ainda assim grosseiramente insuficiente”. Autoridades locais também convocaram a equipe de segurança da OpenAI e ameaçaram impor medidas regulatórias caso as falhas no sistema de denúncia e prevenção não fossem corrigidas.

A OpenAI usa sistemas automatizados que monitoram em tempo real conteúdos gerados no ChatGPT, restringindo ou banindo contas que violam regras como exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de risco elevado, a plataforma está programada para sinalizar o conteúdo para análise humana e, se necessário, compartilhar informações com as autoridades.

Após o incidente, a empresa anunciou reforço nas medidas de segurança e criou um canal direto de comunicação com a polícia canadense. Na carta, Altman afirmou que a OpenAI está comprometida a colaborar com governos para evitar que eventos semelhantes ocorram no futuro.

Familiares de uma menina ferida no ataque entraram com ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora e não tomou nenhuma providência para impedir a tragédia.

A investigação segue em andamento, e a empresa enfrenta pressão global para aprimorar seus mecanismos de segurança diante do uso crescente de inteligência artificial em plataformas abertas.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, ataque no Canadá, denúncia de violência, responsabilização empresarial, moderação de conteúdos

Fonte: g1.globo.com