Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, pela falta de alerta à polícia sobre conteúdos preocupantes de uma usuária do ChatGPT, relacionada ao ataque que matou oito pessoas em fevereiro. O pedido ocorre mais de dois meses após a tragédia e em meio a críticas das autoridades locais.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de abrir fogo em uma escola secundária, onde matou cinco estudantes e um professor. Após o ataque, a atiradora cometeu suicídio. A OpenAI informou que identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT, mas não comunicou a polícia por considerar que a atividade não justificava intervenção policial.
Sam Altman declarou estar “profundamente arrependido” pela decisão de não ter alertado as autoridades em junho, quando a conta foi banida. Ele explicou que o atraso no pedido de desculpas teve como objetivo respeitar o luto da comunidade de Tumbler Ridge. O primeiro-ministro da Colúmbia Britânica, David Eby, recebeu o pedido como “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI utiliza sistemas automatizados para moderar conteúdos em tempo real, bloqueando ou banindo contas que violem suas regras, incluindo apoio à violência e suicídio. Em casos graves, as suspeitas podem ser revisadas por humanos e, se considerado crível, as informações são compartilhadas com a polícia. Porém, nesse caso, a empresa não realizou essa comunicação.
Após o ataque, autoridades canadenses exigiram mudanças nos protocolos da OpenAI, ameaçando ações regulatórias. A empresa se comprometeu a reforçar as medidas de segurança e a criar um canal direto de contato com a polícia.
Em sua carta, Altman reafirmou o compromisso da OpenAI em trabalhar com níveis governamentais para evitar novos incidentes semelhantes. Paralelamente, a família de uma das vítimas iniciou processo judicial contra a empresa, alegando negligência por falta de medidas diante do risco conhecido da atacante.
A controvérsia destaca desafios na moderação de conteúdos e na atuação das empresas de inteligência artificial diante de riscos potenciais à segurança pública.
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, ataque a tiros, Tumbler Ridge, Canadá, violência em massa, moderação de conteúdo, inteligência artificial, responsabilidade corporativa, segurança pública, ação judicial, negligência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
