Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido de desculpas foi enviado por Altman mais de dois meses após a tragédia.

Em 10 de fevereiro, uma jovem transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola secundária local, matando cinco estudantes e um professor antes de se suicidar. A OpenAI afirmou ter banido a conta da suspeita do ChatGPT oito meses antes dos crimes, após identificar conteúdos abusivos.

No entanto, a empresa não notificou as autoridades policiais na ocasião, alegando que a atividade detectada não era grave o suficiente para justificar um alerta oficial. Altman declarou estar “profundamente arrependido” por essa decisão, afirmando que o pedido de desculpas é uma forma de reconhecer a perda sofrida pela comunidade.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso a empresa não fortalecesse suas práticas de segurança.

A OpenAI explicou que utiliza sistemas automatizados para moderar conteúdos em tempo real, capazes de restringir ou banir contas que violam suas regras. Esses sistemas sinalizam comportamentos de alto risco para revisão humana e podem compartilhar informações com a polícia se uma ameaça crível for identificada.

Após o ataque, a empresa anunciou o reforço nas medidas de segurança e a criação de um canal de comunicação direta com as autoridades policiais. Altman afirmou que a organização está comprometida em evitar que casos semelhantes aconteçam no futuro e prometeu trabalhar com governos para aprimorar a prevenção.

Familiares de uma menina que ficou gravemente ferida no tiroteio entraram com uma ação judicial por negligência contra a OpenAI, alegando que a empresa sabia dos planos da atiradora e não tomou providências.

A tragédia em Tumbler Ridge reacende debates sobre a responsabilidade das empresas de tecnologia na moderação e sinalização de conteúdos que possam representar riscos reais à segurança pública.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio Canadá, Tumbler Ridge, moderação de conteúdo, segurança digital, responsabilidade tecnológica, denúncia de violência, ação judicial OpenAI

Fonte: g1.globo.com