Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado as autoridades policiais sobre conteúdos preocupantes gerados por uma usuária do ChatGPT, que em fevereiro matou oito pessoas em um ataque a tiros. A empresa identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não acionou a polícia, alegando que a atividade não justificava encaminhamento.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão na casa da família e, em seguida, foi até uma escola secundária onde tirou a vida após matar cinco alunos e um professor. Após o ataque, a OpenAI afirmou que o sistema automatizado detectou abusos na conta da suspeita em junho do ano anterior e a bloqueou.

Sam Altman disse em carta que sentia “profundo arrependimento” por não ter alertado a polícia sobre a usuária banida. Ele afirmou que o pedido de desculpas, enviado ao primeiro-ministro da Colúmbia Britânica, David Eby, busca reconhecer o dano e a perda da comunidade. Altman explicou que a demora para se pronunciar se deu pelo respeito ao período de luto da cidade.

O primeiro-ministro David Eby chamou a resposta de Altman de “necessária, e ainda assim grosseiramente insuficiente”. Ele pressionou por medidas mais rigorosas para evitar casos similares. Autoridades canadenses também reuniram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso não houvesse mudanças nas políticas de segurança.

A OpenAI usa sistemas automatizados de moderação que analisam o conteúdo em tempo real, restringindo ou banindo contas que violam regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em situações de alto risco, a empresa pode encaminhar informações às autoridades, mas, no caso da usuária que cometeu o ataque, nenhuma ameaça considerada crível foi detectada antes do ocorrido.

Após a tragédia, a empresa reforçou que vai trabalhar com governos para melhorar a detecção de ameaças e evitar novos incidentes. Altman afirmou que a companhia criou um canal de comunicação direto com a polícia canadense para facilitar o compartilhamento de informações relevantes.

A família de uma das vítimas feridas no tiroteio processa a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou nenhuma providência para impedir a tragédia.

Esse episódio eleva o debate sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos que podem indicar riscos a vidas, principalmente em plataformas que utilizam inteligência artificial para interação com usuários.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, moderação de conteúdo, segurança digital, responsabilidade das plataformas, inteligência artificial, denúncia de violência, legislação tecnologia.

Fonte: g1.globo.com