Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT antes de ela cometer um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

A mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois seguiu para uma escola local e abriu fogo, deixando cinco crianças e um professor mortos antes de tirar a própria vida. A conta dela no ChatGPT havia sido banida oito meses antes do ataque por violações das regras da plataforma.

Segundo Altman, a OpenAI identificou a conta por meio de seus sistemas automatizados de detecção, que restringem ou banem usuários que promovem violência, suicídio, automutilação ou exploração sexual. No entanto, a empresa não comunicou as autoridades, alegando que a atividade não era grave o suficiente para um alerta formal.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI após a tragédia e ameaçaram medidas regulatórias caso não houvesse mudanças nas políticas de segurança da empresa.

Em sua carta, Altman afirmou estar “profundamente arrependido” e explicou que o atraso no pedido, feito mais de dois meses após o ataque, teve como intenção respeitar o luto da comunidade afetada. Ele ressaltou o compromisso da OpenAI em trabalhar com governos para evitar futuros incidentes semelhantes.

A empresa declarou que aprimorará as medidas de segurança e estabeleceu um canal direto de comunicação com a polícia. Sistemas automatizados agora sinalizam conteúdos potencialmente perigosos para revisão humana e podem levar à divulgação de informações às autoridades quando há ameaças críveis.

Familiares de uma vítima que sobreviveu ao ataque entraram com ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento, por meio da usuária banida, de um plano para um “evento com mortes em massa” e não tomou providências.

O caso levanta questões sobre a responsabilidade de plataformas de inteligência artificial em monitorar e reportar ameaças e sobre o alcance dos sistemas automatizados na prevenção de crimes graves.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque no Canadá, segurança em inteligência artificial, responsabilidade corporativa, denúncia de violência, sistemas de moderação, ação judicial contra OpenAI.

Fonte: g1.globo.com