Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge na última sexta-feira (24) por não ter avisado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque.

No dia 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em sua casa, antes de ir até uma escola local e abrir fogo, resultando na morte de cinco crianças e um professor. Após o ataque, a atiradora cometeu suicídio.

A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior e a banido do ChatGPT, mas não comunicou as autoridades canadenses porque a atividade não foi considerada grave o suficiente para um alerta policial.

Altman declarou estar “profundamente arrependido” por não ter acionado as forças policiais na época e ressaltou que queria respeitar o período de luto da comunidade antes de se pronunciar publicamente.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que utiliza sistemas automatizados de moderação para detectar conteúdos abusivos ou que promovem violência, com mecanismos que sinalizam comportamentos de alto risco para revisão humana. Em casos graves, a empresa pode repassar informações às autoridades.

Após o incidente, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso não houvesse melhorias nos procedimentos.

A empresa informou que reforçará suas medidas de segurança e criou um canal direto de comunicação com a polícia para agir mais rapidamente em situações futuras.

Na carta enviada a Eby, Altman afirmou que a OpenAI está comprometida em colaborar com governos para evitar tragédias similares e melhorar o monitoramento de riscos.

Familiares de uma menina gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências.

O caso levanta questionamentos sobre a responsabilidade das tecnologias de inteligência artificial no monitoramento de usuários e na prevenção de crimes.

A OpenAI enfrenta pressão para aprimorar seus sistemas de detecção e aumentar a transparência em suas ações diante de ameaças identificadas por suas ferramentas.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, denúncia violência, moderação IA, segurança digital, responsabilidade tecnológica, ataque em escola.

Fonte: g1.globo.com