Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após não ter alertado a polícia sobre conteúdos preocupantes postados por uma usuária do ChatGPT que cometeu um ataque com oito mortos em fevereiro. Em carta divulgada em 24 de abril, Altman afirmou arrependimento pela falha e garantiu que a empresa buscará evitar tragédias semelhantes.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão na residência da família, e depois abriu fogo em uma escola local, onde matou cinco alunos e um professor antes de se suicidar. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT por violar regras da plataforma.

A empresa disse que não notificou a polícia na época porque considerou que a atividade da usuária não justificava uma denúncia formal. Altman explicou que o pedido de desculpas saiu dois meses após a tragédia para respeitar o luto da comunidade atingida. Segundo a carta, o CEO reconheceu o “dano e a perda irreversível” causados pelo ataque.

A OpenAI utiliza sistemas automatizados para monitorar conteúdos postados no ChatGPT e pode restringir ou banir usuários que infringem regras que proíbem incitação à violência, automutilação e outras condutas de risco. Em casos graves, há uma revisão humana e possível compartilhamento de informações com as autoridades.

Após o ataque em Tumbler Ridge, autoridades canadenses criticaram a postura da empresa e solicitaram melhorias na segurança e comunicação com a polícia. A OpenAI informou que criou um canal direto para contato com as forças de segurança e se comprometeu a colaborar para evitar novos casos.

O primeiro-ministro da Colúmbia Britânica, David Eby, considerou que o pedido de desculpas de Altman foi “necessário, e ainda assim grosseiramente insuficiente”. Ele e outras lideranças locais cobram medidas concretas para prevenir situações semelhantes.

Familiares de uma menina ferida no tiroteio entraram com uma ação contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento de planos da atiradora para um “evento com mortes em massa” e não tomou providências suficientes.

Sam Altman destacou que a OpenAI pretende trabalhar com governos para fortalecer os mecanismos de segurança e minimizar riscos associados ao uso da inteligência artificial. A empresa disse que revisará seus processos internos para melhorar a detecção de ameaças.

A tragédia em Tumbler Ridge reforça o debate sobre a responsabilidade das plataformas digitais na identificação e prevenção de condutas violentas, além da colaboração com órgãos públicos para garantir a segurança da população.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, denúncia de violência, segurança digital, moderação de conteúdo, ação judicial, inteligência artificial, prevenção de crimes.

Fonte: g1.globo.com