O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes exibidos por uma usuária do ChatGPT, que depois cometeu um ataque a tiros em fevereiro, matando oito pessoas. A declaração foi feita em uma carta enviada nesta sexta-feira (24), mais de dois meses após a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão na própria casa antes de ir a uma escola secundária local e abrir fogo. Na escola, ela matou cinco crianças, um professor e, em seguida, cometeu suicídio.

A OpenAI identificou a conta da suspeita em junho do ano anterior e baniu seu acesso ao ChatGPT por violações às regras da plataforma, mas não comunicou o caso às autoridades canadenses. A empresa justificou que a atividade da usuária não parecia grave o suficiente para um encaminhamento policial.

Altman afirmou estar “profundamente arrependido” por não ter informado as autoridades sobre a conta banida. Ele justificou o atraso no pedido de desculpas como uma forma de respeitar o luto da comunidade de Tumbler Ridge.

O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais têm cobrado ações mais concretas da OpenAI para impedir futuros incidentes.

A OpenAI usa sistemas automatizados de moderação que monitoram conteúdos em tempo real e podem banir contas por violações, como exploração sexual, incitação à automutilação, suicídio ou violência. Em casos considerados de alto risco, sinais são revisados por humanos e podem levar à comunicação das informações às autoridades.

Após o ataque, a empresa afirmou que fortaleceria seus mecanismos de segurança e estabeleceu um canal direto de comunicação com a polícia. Também prometeu colaborar com governos para evitar que situações semelhantes se repitam.

A família de uma menina ferida no tiroteio entrou com uma ação judicial alegando negligência da OpenAI. Segundo o processo, a empresa teria conhecimento prévio do plano da atiradora para executar um “evento com mortes em massa” e não teria tomado medidas preventivas.

O incidente intensificou debates sobre a responsabilidade das empresas de inteligência artificial na prevenção de crimes e o equilíbrio entre moderação automatizada e segurança pública.

Em resposta, a OpenAI reforçou o compromisso de aprimorar suas políticas e práticas para aprimorar a detecção de riscos e a comunicação com as autoridades destinadas a proteger a sociedade.

—

Palavras relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, ataque a tiros Canadá, moderação de conteúdo, segurança digital, responsabilidade de IA, investigação policial.

Fonte: g1.globo.com