Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. O pedido foi feito mais de dois meses após a tragédia, em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby.

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, onde matou cinco crianças e um professor, antes de tirar a própria vida. A OpenAI afirmou que a conta da suspeita foi banida em junho do ano anterior, oito meses antes do ataque, após o sistema detectar conteúdos que violavam as regras do ChatGPT.

A empresa justificou que não repassou informações à polícia na época porque as atividades monitoradas não foram consideradas graves o suficiente para um alerta às autoridades. Sam Altman declarou estar “profundamente arrependido” pela decisão de não informar as autoridades e reconheceu o impacto da tragédia na comunidade de Tumbler Ridge.

O primeiro-ministro David Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade dos fatos. Após o ocorrido, as autoridades canadenses convocaram a equipe de segurança da OpenAI para discutir possíveis ações regulatórias e exigiram mudanças nos protocolos de segurança da empresa.

De acordo com a OpenAI, o ChatGPT utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real, restringindo ou banindo contas que violam as políticas contra exploração sexual, suicídio, automutilação e promoção de violência. Em casos de alto risco, as atividades são revisadas por humanos, que podem encaminhar dados às autoridades em casos de ameaças credíveis.

Após o ataque, a OpenAI afirmou que reforçará suas medidas de segurança e que criou um canal de comunicação direto com a polícia para melhorar a cooperação em situações de risco. Sam Altman afirmou que a empresa pretende trabalhar com diferentes níveis de governo a fim de evitar incidentes semelhantes no futuro.

Paralelamente, a família de uma das vítimas do tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência da empresa ao não adotar medidas mesmo ciente do plano da atiradora para cometer um “evento com mortes em massa”.

O caso levanta questões sobre a responsabilidade das empresas de tecnologia diante do monitoramento de conteúdos que podem indicar riscos à segurança pública e aponta para a necessidade de aprimorar mecanismos de alerta e atuação conjunta entre plataformas digitais e autoridades.

palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ataque em escola

Fonte: g1.globo.com