Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A manifestação ocorreu mais de dois meses após a tragédia, em resposta a críticas do governo da Colúmbia Britânica e da sociedade local.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois seguiu para uma escola secundária e abriu fogo, matando cinco crianças e um professor. Após o ataque, ela cometeu suicídio. A OpenAI afirmou ter banido a usuária do ChatGPT oito meses antes, em junho do ano anterior, após identificar conteúdos preocupantes em sua conta.

A empresa não comunicou as autoridades na época porque considerou que o material não justificava encaminhamento policial. Em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman expressou arrependimento por não ter acionado a polícia. Ele explicou que o atraso no pedido de desculpas visou respeitar o luto da comunidade.

David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente” e destacou a necessidade de ações concretas para prevenir casos semelhantes. Autoridades canadenses pressionaram a OpenAI após o ataque, ameaçando responder com medidas regulatórias caso não fossem adotadas melhorias na segurança.

A OpenAI declarou que utiliza sistemas automatizados para monitorar abusos e suspender contas que violem regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Esses sistemas sinalizam comportamentos de alto risco para revisão humana, e ameaças credíveis podem ser comunicadas às autoridades policiais.

Em resposta ao caso, a empresa afirmou que vai reforçar suas práticas de segurança e criou um canal direto para contato com a polícia local. Altman disse que a OpenAI está comprometida em colaborar com governos para evitar novas tragédias.

A família de uma menina ferida no ataque entrou com ação judicial contra a OpenAI, acusando a companhia de negligência por supostamente não ter tomado providências mesmo sabendo dos planos da atiradora para um “evento com mortes em massa”.

O episódio levanta questões sobre a responsabilidade de empresas de tecnologia no monitoramento e prevenção da violência a partir de atividades online. O governo da Colúmbia Britânica e a OpenAI seguem em diálogo para buscar soluções adequadas.

—

Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, moderação de conteúdos, justiça, pedido de desculpas, tecnologia e violência, responsabilidade corporativa, monitoramento online.

Fonte: g1.globo.com