Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, que cometeu um ataque com oito mortes em fevereiro. A carta foi divulgada em 24 de abril, mais de dois meses após o ocorrido.

O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois matou cinco crianças e um professor em uma escola local, antes de tirar a própria vida. A OpenAI havia banido a conta da suspeita do ChatGPT em junho do ano anterior, após identificar conteúdos abusivos por meio de seus sistemas de detecção.

Altman afirmou que a empresa não repassou as informações à polícia porque considerou que a atividade da usuária não justificava uma denúncia formal. O CEO declarou estar “profundamente arrependido” pela falha em avisar as autoridades e justificou o atraso no pedido de desculpas para respeitar o luto da comunidade local.

A OpenAI utiliza sistemas automatizados de moderação que analisam textos em tempo real e podem banir contas por violações, como promoção de violência, apoio à automutilação e conteúdo sexual inapropriado. Nas situações de risco extremo, as plataformas revisam os casos manualmente e podem compartilhar dados com as autoridades policiais.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, o governo canadense ameaçou ações regulatórias contra a OpenAI caso a empresa não aprimorasse suas medidas de segurança. Em resposta, a companhia criou um canal direto de comunicação com a polícia e afirmou que pretende colaborar para evitar incidentes semelhantes no futuro.

Familiares de uma menina ferida no ataque entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado providências mesmo sabendo que a usuária planejava cometer um “evento com mortes em massa”.

Altman finalizou a carta afirmando o compromisso da OpenAI em trabalhar com autoridades em todos os níveis para evitar novos casos de violência. A empresa reforça a necessidade de aprimorar seus sistemas de moderação diante do desafio de detectar e agir contra ameaças reais.

—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque em massa, moderação de conteúdo, segurança digital, incidente Canadá, responsabilidade tecnológica, ação judicial, prevenção de violência.

Fonte: g1.globo.com