Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma suspeita de ataque antes do tiroteio que matou oito pessoas em fevereiro. Altman afirmou que a empresa lamenta não ter informado as autoridades após identificar e banir a usuária do ChatGPT meses antes da tragédia.

No dia 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local, onde matou cinco crianças e um professor antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT oito meses antes devido a comportamentos considerados abusivos pelo sistema da OpenAI.

A empresa explicou que não reportou o caso à polícia na época porque a atividade detectada não foi considerada grave o suficiente para justificar um alerta às autoridades. Em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman reconheceu o erro e declarou estar “profundamente arrependido” pela falha em alertar a polícia.

David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso a empresa não adotasse melhorias nos seus procedimentos.

A OpenAI utiliza sistemas automatizados para moderar conteúdos em tempo real, restringindo ou banindo contas que violam suas regras. Entre as violações estão exploração sexual, apoio à automutilação, suicídio e promoção de violência. Em casos graves, comportamentos de alto risco são analisados por humanos e, se identificadas ameaças críveis, os dados podem ser compartilhados com a polícia.

Após a tragédia, a OpenAI anunciou que irá reforçar suas medidas de segurança e criou um canal de comunicação direta com as autoridades. Altman afirmou que a empresa está comprometida em trabalhar com governos para evitar que incidentes similares aconteçam no futuro.

A família de uma das vítimas entrou com uma ação judicial por negligência contra a OpenAI, alegando que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou providências adequadas.

O caso levanta questionamentos sobre a responsabilidade das plataformas de inteligência artificial na identificação e resposta a riscos de violência, enquanto governos e empresas buscam aprimorar protocolos para prevenir tragédias.

—

Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio no Canadá, ChatGPT, ataque em Tumbler Ridge, moderação de conteúdo, responsabilidade de IA, prevenção de violência, policiamento digital, Colúmbia Britânica, ação judicial OpenAI

Fonte: g1.globo.com