O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes exibidos por uma ex-usuária do ChatGPT que, em fevereiro, cometeu um ataque a tiros que matou oito pessoas. O pedido foi divulgado em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma jovem transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de ir até uma escola secundária local, onde matou cinco alunos e um professor, e em seguida cometeu suicídio. A suspeita havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano anterior.

A OpenAI explicou que identificou a conta da usuária suspeita por meio de seus sistemas de detecção automática de abusos e a bloqueou em junho de 2023. No entanto, a empresa não notificou as autoridades canadenses, alegando que a atividade não foi considerada grave o suficiente para um encaminhamento oficial.

Sam Altman afirmou estar “profundamente arrependido” por a empresa não ter relatado a conta às autoridades policiais naquela ocasião. Ele afirmou que o pedido de desculpas, embora tardio, era necessário para reconhecer os danos causados à comunidade de Tumbler Ridge e justificou o atraso em respeito ao período de luto da população local.

O primeiro-ministro David Eby classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”, e representantes do governo canadense convocaram a equipe de segurança da OpenAI para discutir medidas de prevenção futuras. Autoridades ameaçaram aplicar sanções regulatórias caso a empresa não aprimorasse seus controles.

A OpenAI detalhou que utiliza sistemas automatizados de moderação para analisar conteúdos em tempo real, com bloqueios de contas que violem regras contra exploração sexual, promoção de violência, automutilação e suicídio. Em casos considerados de alto risco, o sistema sinaliza para revisão humana e pode encaminhar dados às autoridades policiais.

Após o incidente, a empresa afirma estar reforçando suas medidas de segurança e criou um canal direto de comunicação com a polícia para agilizar notificações de ameaças. Altman afirmou que a OpenAI pretende trabalhar com governos para evitar que tragédias similares ocorram no futuro.

Além do pedido de desculpas, uma ação judicial foi movida contra a OpenAI pela família de uma menina que ficou gravemente ferida durante o tiroteio. Os familiares alegam negligência da empresa, sustentando que a OpenAI tinha conhecimento dos planos da atiradora para cometer um “evento com mortes em massa” e não tomou medidas preventivas.

A tragédia em Tumbler Ridge reacende o debate sobre a responsabilidade das plataformas de inteligência artificial em identificar e reportar riscos de violência, além de questionar a eficácia dos mecanismos de detecção e resposta a conteúdos ameaçadores.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, denúncia de violência, moderação de conteúdo, responsabilidade tecnológica, segurança digital, ação judicial, sistemas de detecção, prevenção de violência, alerta policial

Fonte: g1.globo.com