Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária banida do ChatGPT antes de ela cometer um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta aberta divulgada nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária e matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI identificou a conta da suspeita e a baniu em junho do ano anterior, oito meses antes da tragédia.

A empresa informou que não notificou a polícia na época porque a atividade detectada não era considerada grave o suficiente para justificar o encaminhamento às autoridades. Altman afirmou estar “profundamente arrependido” por essa decisão e reconheceu a gravidade das perdas sofridas pela comunidade.

O primeiro-ministro da Colúmbia Britânica, província onde fica Tumbler Ridge, David Eby, classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses exigem mudanças práticas nas medidas de segurança da OpenAI para evitar novos incidentes.

A OpenAI utiliza sistemas automatizados para monitorar e moderar conteúdos em tempo real no ChatGPT. Contas que violam regras, como promoção de violência ou riscos à segurança, podem ser restritas ou banidas. Em casos de ameaças graves, informações podem ser compartilhadas com a polícia.

Após o ataque, a empresa afirmou que irá reforçar a segurança e estabeleceu um canal direto de comunicação com as autoridades policiais canadenses para melhorar a resposta em situações de risco. Altman destacou o compromisso da OpenAI em trabalhar com governos para prevenir tragédias semelhantes no futuro.

A família de uma menina gravemente ferida na escola entrou com ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento de planos da atiradora para cometer um “evento com mortes em massa” e não tomou providências.

O episódio coloca em foco os desafios das empresas de tecnologia na moderação de conteúdos e na cooperação com autoridades diante de ameaças de violência. O equilíbrio entre privacidade dos usuários e segurança pública segue como pauta central no debate.

Fonte: g1.globo.com