Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma ex-usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A declaração foi feita em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, divulgada nesta sexta-feira (24).
A mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de seguir para uma escola local, onde matou cinco estudantes e um professor. Após o ataque, a suspeita tirou a própria vida. A OpenAI afirmou ter identificado e banido a conta da usuária em junho do ano anterior, oito meses antes da tragédia, por violar as regras do ChatGPT, mas não comunicou as autoridades.
Altman afirmou estar “profundamente arrependido” por não ter avisado a polícia na época. Ele explicou que o pedido de desculpas foi feito apenas agora para respeitar o período de luto da comunidade de Tumbler Ridge. O primeiro-ministro David Eby considerou o pedido “necessário, e ainda assim grosseiramente insuficiente”.
A OpenAI informou que utiliza sistemas automatizados de moderação capazes de identificar conteúdos abusivos em tempo real e banir usuários. Esses sistemas podem sinalizar casos graves para revisão humana, e, se uma ameaça for considerada crível, a empresa pode compartilhar informações com as autoridades. No caso da usuária, a empresa afirmou que a atividade não foi avaliada como grave o suficiente para justificar o aviso.
Após o ataque, autoridades canadenses pressionaram a OpenAI, ameaçando ações regulatórias. A empresa confirmou que fortalecerá suas medidas de segurança e criou um canal de comunicação direto com a polícia local para casos futuros.
A carta de Sam Altman destacou o compromisso da OpenAI em colaborar com governos para prevenir eventos semelhantes. Segundo ele, o foco da empresa é encontrar formas eficazes de evitar que tragédias como essa se repitam.
Além da resposta da empresa, familiares de vítimas entraram com uma ação judicial por negligência contra a OpenAI. Eles afirmam que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou providências adequadas para impedir.
O caso levanta novas discussões sobre a responsabilidade das plataformas de inteligência artificial em monitorar e agir diante de possíveis ameaças à segurança pública.
—
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, ataque em escola, segurança em IA, moderação automática, responsabilidade tecnológica, ação judicial OpenAI, violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
