Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que cometeu um ataque a tiros em fevereiro, resultando em oito mortes. O pedido foi feito em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, publicada na sexta-feira (24).

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois abriu fogo em uma escola secundária local, onde matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI identificou e baniu essa usuária do ChatGPT oito meses antes do ataque, em junho do ano anterior.

Apesar de ter detectado conteúdos preocupantes na conta da suspeita, a empresa não informou as autoridades canadenses na época, justificando que a atividade não parecia grave o suficiente para acionar a polícia. Altman afirmou estar “profundamente arrependido” pela decisão de não reportar o caso às autoridades.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade do ocorrido e a responsabilidade das empresas de tecnologia em casos desse tipo.

A OpenAI usa sistemas automatizados de moderação que analisam conteúdos em tempo real para identificar violações das regras, que incluem apoio à violência, automutilação e suicídio. Em situações de alto risco, comportamentos são revisados por humanos e, se a ameaça for real, dados podem ser compartilhados com a polícia.

Após o ataque, autoridades canadenses exigiram da OpenAI melhorias nas suas políticas de segurança e alertas. Em resposta, a empresa afirmou que reforçará suas medidas de proteção e criou um canal direto de comunicação com as autoridades.

Altman disse que a OpenAI está empenhada em evitar tragédias semelhantes no futuro e pretende trabalhar com todos os níveis de governo para melhorar a segurança nas interações com a inteligência artificial.

Indivíduos afetados pelo ataque, incluindo a família de uma menina ferida, entraram com uma ação judicial por negligência contra a OpenAI, alegando que a empresa tinha conhecimento dos planos da atiradora, mas não tomou providências para impedir o evento.

O episódio levanta debates sobre a responsabilidade das plataformas digitais na prevenção de crimes e o limite entre moderação de conteúdo e intervenção policial, especialmente em ambientes controlados por inteligência artificial.

Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, responsabilidade tecnológica, ataque a tiros, justiça, prevenção de crimes.

Fonte: g1.globo.com