Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, após não ter alertado a polícia sobre sinais preocupantes na conta de uma ex-usuária do ChatGPT que cometeu um ataque a tiros em fevereiro. O ataque resultou na morte de oito pessoas, incluindo cinco crianças, um professor, a mãe e o meio-irmão da atiradora.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou familiares em sua casa antes de atacar uma escola local. Após o incidente, ela tirou a própria vida. A OpenAI identificou a conta da suspeita em junho, oito meses antes da tragédia, e a baniu por violar regras de uso. A empresa, entretanto, não informou a polícia na época, argumentando que as atividades não justificavam um relatório às autoridades.

Altman afirmou estar “profundamente arrependido” pela falha em comunicar os sinais à polícia em junho. Ele enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, destacando a importância do pedido de desculpas para reconhecer a dor da comunidade. A mensagem foi divulgada em 24 de abril, mais de dois meses após o ataque, para respeitar o período de luto dos moradores.

O primeiro-ministro Eby considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Ele ressaltou que ações concretas são essenciais para evitar novas tragédias. A OpenAI anunciou que reforçará suas medidas de segurança e estabeleceu um canal direto de comunicação com a polícia canadense.

O sistema do ChatGPT utiliza moderação automatizada para detectar conteúdos que violam regras como promoção de violência, automutilação, suicídio e exploração sexual. Em casos graves, os comportamentos são analisados por humanos, e dados podem ser compartilhados com autoridades policiais quando há ameaça legítima.

Após o ataque, autoridades canadenses pressionaram a OpenAI a revisar seus protocolos. A empresa declarou compromisso em colaborar com governos para impedir incidentes futuros, conforme expresso por Altman na carta.

Além disso, a família de uma menina ferida gravemente no tiroteio entrou com ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do plano da atiradora para cometer um massacre, mas não tomou medidas preventivas.

O incidente reacende debates sobre a responsabilidade de plataformas de inteligência artificial em monitorar e relatar conteúdos perigosos. A OpenAI enfrenta pressão para equilibrar liberdade de uso e segurança pública em seus sistemas.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, violência online, moderação de conteúdo, segurança digital, responsabilidade legal.

Fonte: g1.globo.com