Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que resultou em oito mortes em fevereiro. A ocorrência gerou críticas e questionamentos sobre o papel da empresa na prevenção de violência.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola local, onde atirou contra estudantes e um professor, provocando cinco mortes na escola e levando a própria vida em seguida. O episódio deixou ainda 25 feridos.
A OpenAI afirmou ter banido a conta da suspeita do ChatGPT em junho do ano anterior, por meio de seus sistemas de detecção de abuso. A empresa decidiu não reportar o caso às autoridades na época, por considerar que a atividade da usuária não era grave o suficiente para justificar o encaminhamento policial.
Na carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, e divulgada em 24 de abril, Altman declarou estar “profundamente arrependido” por não ter avisado a polícia. Ele também explicou que o pedido de desculpas foi feito mais de dois meses após a tragédia para respeitar o luto da comunidade de Tumbler Ridge.
O primeiro-ministro David Eby qualificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses têm pressionado a OpenAI para aumentar a segurança e criaram contato direto entre a empresa e a polícia.
De acordo com a OpenAI, seus sistemas automáticos de moderação monitoram conteúdos em tempo real para identificar violações que incluem exploração sexual, automutilação, suicídio e promoção de violência. Em situações graves, os sistemas acionam revisão humana e podem compartilhar dados com as autoridades.
Após o ataque, a empresa afirmou que intensificaria as medidas de segurança e trabalharia em conjunto com governos para evitar incidentes similares. Altman destacou o compromisso em buscar formas para prevenir tragédias futuras.
A família de uma vítima do tiroteio entrou com uma ação judicial contra a OpenAI por negligência, alegando que a empresa sabia do planejamento da atiradora para um “evento com mortes em massa”, mas falhou em agir.
O caso levanta questões sobre o monitoramento e a responsabilização de plataformas digitais diante de conteúdos que indicam riscos de violência, além de evidenciar desafios na regulação de tecnologias de inteligência artificial.
—
Palavras-chave: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, violência, segurança digital, moderação de conteúdo, ação judicial, inteligência artificial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
