Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A declaração foi divulgada nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de ir a uma escola secundária local e abrir fogo, matando cinco crianças e um professor. Após o ataque, a atiradora tirou a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho, por violação das regras da plataforma identificada pelos sistemas automatizados de moderação da OpenAI.
Segundo a empresa, a conta da usuária foi bloqueada por gerar conteúdos preocupantes relacionados à violência, mas não foi comunicada à polícia, pois a atividade não foi considerada séria o suficiente para justificar um alerta às autoridades. Em carta ao primeiro-ministro da província de Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido por não termos alertado as autoridades policiais” e reconheceu a perda sofrida pela comunidade de Tumbler Ridge.
David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Desde o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso as medidas de segurança não fossem reforçadas. A empresa afirmou que criou um canal de comunicação direta com a polícia e pretende ampliar os procedimentos para evitar tragédias similares.
Os sistemas da OpenAI utilizam moderação automatizada para analisar conteúdos em tempo real, bloqueando ou restringindo contas que violam as regras relativas a exploração sexual, automutilação, suicídio, violência e promoção de danos. Em casos considerados de alto risco, as informações podem ser repassadas às autoridades, uma prática que, no caso envolvendo a atiradora, não foi adotada.
Além do pedido de desculpas, Altman justificou o atraso na declaração afirmando que desejava respeitar o período de luto da comunidade afetada. A OpenAI disse estar comprometida em trabalhar com diferentes níveis de governo para desenvolver medidas preventivas e garantir que incidentes semelhantes não voltem a ocorrer.
A família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência por parte da empresa ao não tomar providências mesmo sabendo que a suspeita planejava um “evento com mortes em massa”.
O episódio destaca os desafios enfrentados por empresas de inteligência artificial na moderação de conteúdos com potencial violento e na comunicação com autoridades para prevenção de crimes.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, moderação de conteúdo, segurança digital, denúncia automática, ataque a tiros Canadá, responsabilidade da IA, ação judicial, prevenção de crimes, Colúmbia Britânica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
