Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes publicados por uma usuária do ChatGPT, que cometeu um ataque a tiros em fevereiro, matando oito pessoas. A declaração foi feita em uma carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir a uma escola secundária local, onde abriu fogo contra estudantes e um professor. Após matar cinco crianças e um docente, a suspeita cometeu suicídio. A OpenAI afirmou que identificou a conta usada pela atiradora em seus sistemas de moderação e a baniu do ChatGPT oito meses antes do ataque, em junho do ano anterior.
A empresa justificou que não notificou as autoridades na época porque a atividade da usuária não foi considerada grave o suficiente para um encaminhamento policial. Segundo Altman, o pedido de desculpas foi feito após mais de dois meses da tragédia para respeitar o luto da comunidade de Tumbler Ridge. Na carta, ele afirmou estar “profundamente arrependido” por não ter acionado as autoridades.
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso mudanças não fossem implementadas. A empresa afirmou que pretende reforçar as medidas de segurança e estabeleceu um canal direto de comunicação com a polícia.
A OpenAI explica que utiliza sistemas automatizados que analisam conteúdos em tempo real para identificar violações das regras, como exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de risco alto, o sistema sinaliza para revisão humana e pode compartilhar dados com autoridades, quando uma ameaça crível é identificada.
Além do pedido de desculpas, Altman afirmou que a OpenAI está comprometida em colaborar com diferentes níveis de governo para evitar situações semelhantes no futuro. “Nosso foco continuará sendo trabalhar para garantir que algo assim nunca aconteça novamente”, disse.
Uma família afetada pelo tiroteio, cuja filha ficou gravemente ferida no ataque, entrou com uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa sabia sobre o planejamento da atiradora para um “evento com mortes em massa”, mas não tomou nenhuma medida para impedir a tragédia.
O incidente levanta questionamentos sobre a responsabilidade das plataformas de inteligência artificial na identificação e reporte de potenciais ameaças à segurança pública. As autoridades canadenses avaliam caminhos para aprimorar a regulamentação dessas tecnologias no país.
—
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, moderação de conteúdo, segurança digital, inteligência artificial, responsabilidade corporativa, ação judicial, violência escolar, Colúmbia Britânica.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
