Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após o ataque cometido por uma ex-usuária do ChatGPT que resultou em oito mortes em fevereiro. A empresa não comunicou à polícia os conteúdos preocupantes detectados na conta da suspeita antes do incidente.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, onde cinco crianças e um professor foram mortos. Posteriormente, ela cometeu suicídio. A OpenAI identificou e baniu a conta da suspeita do ChatGPT oito meses antes da tragédia, em junho do ano anterior.

Segundo Altman, a decisão de não alertar a polícia ocorreria porque a atividade da usuária não parecia grave o suficiente para justificar encaminhamento às autoridades. Em carta divulgada em 24 de abril, ele expressou arrependimento pela falha em avisar a polícia, afirmando que o pedido de desculpas é necessário para reconhecer a perda sofrida pela comunidade.

O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses marcaram reunião com a equipe de segurança da OpenAI após o ataque e ameaçaram medidas regulatórias caso a empresa não aprimorasse seus processos.

A OpenAI usa sistemas automatizados para moderar conteúdos em tempo real e restringir ou banir contas que violem regras contra exploração sexual, automutilação, suicídio e promoção de violência. Quando detectam ameaças graves, os casos passam por revisão humana e podem ser reportados à polícia.

Altman afirmou que, a partir de agora, a OpenAI vai trabalhar com governos para evitar eventos similares e implementou um canal de comunicação direta com as autoridades locais. A empresa reforça seu compromisso em melhorar as medidas de segurança.

Uma família da vítima, uma menina gravemente ferida no ataque, entrou com ação judicial por negligência contra a OpenAI. Eles afirmam que a empresa tinha conhecimento de planos para um “evento com mortes em massa” e não tomou providências.

O caso levanta discussões sobre responsabilidades de empresas de tecnologia na moderação e compartilhamento de informações com autoridades para prevenção de crimes. A OpenAI busca equilibrar privacidade, segurança e resposta a riscos em suas plataformas.

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, Canadá, ataque a tiros, moderação de conteúdo, segurança digital, responsabilidade corporativa, violência online, ação judicial, tecnologia e segurança pública.

Fonte: g1.globo.com