O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, realizou um ataque com tiros, causando a morte de oito pessoas. O pedido foi feito mais de dois meses após a tragédia, em resposta a críticas sobre a atuação da empresa.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. A atiradora havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano anterior, por causa de atividades preocupantes identificadas pelos sistemas da OpenAI.

A OpenAI afirmou que, na época do banimento, não comunicou a polícia canadense porque não considerou o conteúdo grave o suficiente para justificar o encaminhamento às autoridades. Altman declarou estar “profundamente arrependido” por essa decisão e reconheceu o impacto irreversível para a comunidade de Tumbler Ridge.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses pressionaram a OpenAI a revisar suas medidas de segurança e estabeleceram a criação de um canal direto de contato entre a empresa e a polícia local.

A OpenAI utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real para identificar violações às regras, como promoção de violência ou incitação ao suicídio. Em casos com indícios de ameaça real, os dados podem ser compartilhados com autoridades responsáveis para investigação e prevenção.

Após o ataque, a empresa anunciou que reforçaria suas políticas de segurança para evitar novos incidentes e trabalhará em colaboração com os governos para aprimorar a detecção e o manejo de ameaças. Altman afirmou que o foco da OpenAI será impedir que tragédias semelhantes se repitam.

Familiares de uma menina ferida no tiroteio entraram com uma ação judicial contra a OpenAI, acusando a empresa de negligência por não ter tomado medidas mesmo sabendo dos planos da atiradora para cometer um ataque com múltiplas vítimas.

O episódio levantou debates sobre os limites e responsabilidades das plataformas de inteligência artificial na prevenção de violência e o papel das empresas no monitoramento e comunicação de riscos potenciais às autoridades.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, tiroteio em massa, Canadá, moderação de conteúdo, segurança digital, responsabilidade da IA, ação judicial, prevenção de violência.

Fonte: g1.globo.com