Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. A mulher, de 18 anos, cometeu o massacre após ter sido banida da plataforma oito meses antes da tragédia.

Em 10 de fevereiro, a suspeita matou a mãe e o meio-irmão em casa e depois atacou uma escola local, matando cinco estudantes e um professor, antes de tirar a própria vida. A OpenAI identificou a conta da usuária por meio de seus sistemas de detecção automática em junho do ano passado e a bloqueou, mas não comunicou as autoridades.

Altman afirmou em carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que a empresa não notificou a polícia porque não considerou os conteúdos graves o suficiente para isso. O pedido de desculpas foi feito publicamente em 24 de abril, mais de dois meses após o ataque, para respeitar o período de luto da comunidade.

O primeiro-ministro David Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”. Segundo ele, a resposta da empresa não atende às expectativas da população e das autoridades em relação à prevenção de crimes semelhantes.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real, bloqueando contas que violam regras sobre exploração sexual, suicídio, automutilação e promoção de violência. Em casos de ameaça grave, os sistemas sinalizam os casos para revisão humana e podem compartilhar informações com a polícia.

Após o ataque, autoridades canadenses pressionaram a OpenAI a aprimorar suas medidas de segurança. A empresa disse que ampliará os mecanismos de monitoração e criou um canal direto de comunicação com a polícia local para facilitar o alerta sobre condutas suspeitas.

Altman destacou que a OpenAI está comprometida em trabalhar com diferentes níveis de governo para evitar que eventos similares voltem a ocorrer. Ele ressaltou a necessidade de aprimorar os processos de identificação e comunicação de ameaças em plataformas digitais.

A família de uma jovem ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência por parte da empresa. O processo aponta que a OpenAI teria conhecimento do plano da atiradora para um ataque em massa, mas não tomou medidas para impedir o crime.

O caso ressalta a complexidade do monitoramento e da responsabilidade das empresas de tecnologia diante de conteúdos potenciais de violência, além de abrir discussões sobre a cooperação entre plataformas digitais e autoridades policiais.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, ação judicial, responsabilidade tecnológica.

Fonte: g1.globo.com