O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT que cometeu um ataque em fevereiro. O pedido ocorreu em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária de Tumbler Ridge. No local, ela matou cinco crianças, um professor e, em seguida, tirou a própria vida. Ao todo, dez pessoas morreram e 25 ficaram feridas no ataque.
A OpenAI afirmou que identificou a conta da suspeita em junho do ano anterior e a baniu do ChatGPT por violações às regras internas da plataforma. A empresa, no entanto, não notificou as autoridades canadenses porque avaliou que a atividade da usuária não era suficientemente grave para justificar um alerta policial.
Sam Altman disse estar “profundamente arrependido” por não ter informado a polícia sobre a conta banida. Ele justificou a demora no pedido de desculpas, ocorrida mais de dois meses após a tragédia, dizendo que queria respeitar o luto da comunidade atingida.
Os sistemas do ChatGPT utilizam automação para detectar conteúdos abusivos em tempo real e podem banir ou restringir contas que violam políticas contra exploração sexual, automutilação, promoção de violência, entre outras. Em casos considerados graves, as contas são revistas por humanos e dados podem ser compartilhados com a polícia.
Após o ataque, autoridades do Canadá convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso não houvesse mudanças nas políticas da empresa. Em resposta, a OpenAI afirmou que traria mais segurança para evitar incidentes semelhantes e estabeleceu um canal direto de comunicação com a polícia local.
O primeiro-ministro David Eby avaliou o pedido de desculpas de Altman como “necessário, e ainda assim grosseiramente insuficiente”. A insatisfação reflete o impacto da tragédia e a percepção sobre a responsabilidade da empresa no caso.
Além disso, familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento, por meio do conteúdo gerado pela atiradora, de planos para cometer um “evento com mortes em massa”, mas não tomou medidas preventivas.
A OpenAI afirmou que está comprometida a trabalhar com governos para melhorar as formas de detectar e prevenir riscos envolvendo sua tecnologia. Altman sinalizou que a empresa buscará evitar que episódios como o ocorrido em Tumbler Ridge se repitam.
—
Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em Tumbler Ridge, ataque em escola, segurança digital, denúncia de violência, responsabilidade da tecnologia, ação judicial OpenAI, moderação de conteúdo.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
