Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque a tiros que matou oito pessoas em fevereiro. Ele afirmou que a empresa deveria ter alertado a polícia sobre conteúdos preocupantes da suspeita no ChatGPT, mas não o fez.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola local, onde matou cinco alunos e um professor, e depois cometeu suicídio. A OpenAI já havia banido a usuária do ChatGPT oito meses antes do ataque, em junho, após identificar comportamentos abusivos em sua conta.

A empresa não comunicou as autoridades canadenses porque considerou que a atividade da conta não era grave o suficiente para justificar o encaminhamento. Altman disse estar “profundamente arrependido” pela falta do aviso e enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby.

O primeiro-ministro respondeu que o pedido de desculpas é “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais convocaram a equipe de segurança da OpenAI após a tragédia e ameaçaram ações regulatórias caso as medidas de prevenção não fossem aprimoradas.

A OpenAI revelou que utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real para identificar violações das regras, como promoção de violência e incitação à automutilação. Em casos de risco elevado, o sistema encaminha a situação para revisão humana e pode repassar informações às autoridades.

Após a tragédia, a empresa prometeu reforçar as medidas de segurança e estabeleceu um canal de comunicação direto com a polícia. Altman afirmou que a OpenAI está comprometida em colaborar com diferentes níveis de governo para evitar episódios semelhantes no futuro.

Familiares de uma menina que ficou gravemente ferida no ataque entraram com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento do plano da suspeita para cometer um “evento com mortes em massa” e que não tomou nenhuma providência adequada.

O caso suscita questionamentos sobre o papel das empresas de tecnologia na prevenção de crimes relacionados a seus serviços, especialmente em plataformas que utilizam inteligência artificial para moderação de conteúdo. A OpenAI enfrenta pressão para aprimorar seus mecanismos de detecção e comunicação com autoridades antes que situações desse tipo se repitam.

Palavras-chave relacionadas:
OpenAI, Sam Altman, ChatGPT, Tumbler Ridge, ataque a tiros, violência em massa, moderação de conteúdo, inteligência artificial, polícia, segurança digital, responsabilidade tecnológica

Fonte: g1.globo.com