Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT que cometeu um ataque em massa em fevereiro. O ataque deixou oito mortos, incluindo cinco crianças, um professor, a mãe e o meio-irmão da suspeita, que depois cometeu suicídio.

A mulher transgênero de 18 anos matou os familiares em casa antes de abrir fogo em uma escola local. A OpenAI identificou a conta da atiradora em junho do ano anterior e a baniu do sistema por violações de uso, mas não comunicou a polícia canadense. A empresa avaliou que o conteúdo não era grave o suficiente para justificar o encaminhamento às autoridades.

Em carta divulgada em 24 de abril, Altman expressou pesar pela falta de aviso e afirmou respeitar o luto de Tumbler Ridge ao justificar o atraso no pedido de desculpas. Ele garantiu que a OpenAI está engajada em melhorar a segurança e colaborar com governos para evitar novos incidentes.

O primeiro-ministro da Colúmbia Britânica, David Eby, recebeu o pedido de desculpas, mas considerou a resposta insuficiente. Autoridades locais também pressionam por mudanças regulatórias na empresa, que anunciou a criação de um canal direto de comunicação com a polícia.

A OpenAI utiliza sistemas automáticos para monitorar e moderar conteúdos no ChatGPT, podendo restringir ou banir contas que promovam violência, automutilação ou outros comportamentos proibidos. Em casos de ameaça grave, a empresa pode reportar dados às autoridades, mas reconheceu falhas no caso específico.

Familiares de uma menina ferida no tiroteio ajuizaram ação judicial contra a OpenAI, alegando negligência por parte da empresa. Segundo a denúncia, a companhia teria conhecimento prévio do plano da suspeita, mas não tomou medidas para impedir o ataque.

O episódio abriu debate sobre a responsabilidade das plataformas de inteligência artificial no monitoramento e prevenção de atos violentos. A OpenAI afirma que seguirá aprimorando suas medidas de segurança para evitar tragédias semelhantes no futuro.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, responsabilidade social, ataque em escola, Colúmbia Britânica, denúncia judicial, violência online.

Fonte: g1.globo.com