Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados à suspeita de um tiroteio em massa em fevereiro. A empresa não notificou as autoridades na época em que a usuária foi banida do ChatGPT, oito meses antes do ataque que matou oito pessoas.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, eliminando cinco crianças e um professor, antes de tirar a própria vida. A OpenAI identificou a conta da suspeita em junho do ano anterior e a baniu do chatbot por violações das regras, mas não repassou o caso à polícia, alegando que a atividade não era grave o suficiente para justificar comunicação às autoridades.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas de Altman como “necessário, e ainda assim grosseiramente insuficiente”. Após a tragédia, a OpenAI afirmou que reforçaria suas medidas de segurança e criou um canal direto de comunicação com a polícia local.
Altman justificou o atraso para o pedido de desculpas, alegando respeito ao luto da comunidade afetada. Em carta divulgada em 24 de abril, ele afirmou estar “profundamente arrependido” por não ter informado as autoridades sobre a conta banida. Também disse que a empresa está comprometida em trabalhar com governos para evitar futuras tragédias.
Os sistemas de moderação da OpenAI analisam conteúdos em tempo real e podem banir contas que violem regras relacionadas a exploração sexual, suicídio, automutilação e promoção de violência. Em casos graves, a empresa pode compartilhar dados com a polícia, após revisão humana.
Autoridades canadenses já ameaçaram a empresa com ações regulatórias caso as medidas de segurança não sejam aprimoradas. A OpenAI afirmou que continuará a buscar formas de aprimorar seus mecanismos de segurança para impedir eventos semelhantes.
A família de uma menina ferida no tiroteio entrou com ação judicial contra a OpenAI, alegando negligência. Segundo o processo, a empresa teria conhecimento do plano da atiradora, mas não adotou medidas para impedir o ataque.
Palavras-chave: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, segurança digital, moderação de conteúdo, responsabilidade, ação judicial.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
