O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que, em fevereiro, cometeu um ataque a tiros que resultou na morte de oito pessoas. Altman reconheceu o erro em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, após a empresa ter banido a suspeita do chatbot oito meses antes do incidente, mas sem comunicar as autoridades.

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa e, em seguida, dirigiu-se a uma escola secundária em Tumbler Ridge, onde matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI identificou a conta da atiradora em junho do ano anterior e a bloqueou por violar regras da plataforma, mas não reportou o caso à polícia sob o argumento de que o conteúdo não apresentava gravidade suficiente para tal.

O primeiro-ministro David Eby declarou que o pedido de desculpas é “necessário, e ainda assim grosseiramente insuficiente”, ressaltando a gravidade da situação e a responsabilidade da empresa em prevenir ameaças. Altman afirmou que o comunicado demorou mais de dois meses para ser enviado para não interferir no período de luto da comunidade atingida.

A OpenAI afirmou utilizar sistemas automatizados de moderação para identificar e restringir conteúdos que envolvam violência, automutilação, apoio ao suicídio e outros comportamentos de risco. Essas ferramentas podem sinalizar ameaças graves para revisão humana e, em casos comprovados, enviar informações às autoridades responsáveis.

Após o ataque, o governo canadense convocou a equipe de segurança da OpenAI e indicou que poderá implementar medidas regulatórias caso não haja melhorias nos protocolos de segurança. A empresa anunciou reforço nas políticas de monitoramento e criou um canal de comunicação direto com a polícia local.

A carta de Altman também destaca o compromisso da OpenAI em colaborar com diferentes níveis de governo para evitar novas tragédias deste tipo. Paralelamente, familiares de uma criança ferida no ataque entraram com uma ação judicial alegando negligência da empresa, apontando que a OpenAI teria conhecimento dos planos da atiradora e não tomou medidas adequadas para impedir o crime.

O caso levanta questões sobre a moderação de conteúdos em plataformas baseadas em inteligência artificial e a responsabilidade dessas empresas em situações que possam representar risco à segurança pública. As autoridades e a OpenAI seguem em negociações para aprimorar protocolos e garantir respostas mais rápidas diante de ameaças.

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, violência online, segurança digital, responsabilidade digital, inteligência artificial.

Fonte: g1.globo.com