Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma ex-usuária do ChatGPT, suspeita de um ataque a tiros que matou oito pessoas em fevereiro. O pedido foi feito mais de dois meses após a tragédia, em carta divulgada na sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois foi a uma escola local, onde atirou em seis pessoas, incluindo cinco alunos e um professor, antes de cometer suicídio. A OpenAI identificou a conta da suspeita e a baniu do ChatGPT em junho do ano anterior, oito meses antes do ataque, por violar regras do sistema.
A empresa informou que não notificou as autoridades canadenses na época porque a atividade não foi considerada grave o suficiente para justificar um alerta policial. Altman expressou arrependimento pelo erro e destacou que o pedido de desculpas reconhece a perda sofrida pela comunidade de Tumbler Ridge.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, destacando a gravidade da situação e a necessidade de ações mais efetivas.
De acordo com a OpenAI, o ChatGPT conta com sistemas automatizados de moderação que analisam conteúdos em tempo real. Contas que violam os termos de uso, incluindo promoção de violência ou apoio à automutilação, podem ser restringidas ou banidas. Em casos considerados graves, comportamentos são sinalizados para revisão humana e podem resultar no compartilhamento de informações com autoridades policiais.
Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso não houvesse mudanças nos protocolos de segurança. A empresa afirmou que reforçou seus sistemas e estabeleceu um canal direto com a polícia local para respostas mais rápidas a ameaças.
Na carta, Altman afirmou que a OpenAI está comprometida em colaborar com os governos para prevenir incidentes semelhantes no futuro e evitar novas tragédias. “Nosso foco continuará sendo trabalhar com todos os níveis de governo para garantir que algo assim nunca aconteça novamente”, disse.
Uma ação judicial foi movida pela família de uma menina ferida durante o tiroteio. O processo acusa a OpenAI de negligência, alegando que a empresa tinha conhecimento do plano da atiradora para um ataque com mortes em massa, mas não tomou medidas adequadas para impedir o ocorrido.
O caso levanta discussões sobre a responsabilidade das empresas de tecnologia na moderação de conteúdos gerados por inteligência artificial e o papel dos sistemas automatizados na prevenção de crimes violentos.
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, tiroteio no Canadá, ChatGPT, moderação de conteúdo, segurança digital, ataque em Tumbler Ridge, responsabilidade das IA, ação judicial, prevenção de crimes, sistemas automatizados.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
