Sam Altman, CEO da OpenAI, pediu desculpas à cidade de

Sam Altman, CEO da OpenAI, pediu desculpas à cidade de Tumbler Ridge, no Canadá, por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque com arma de fogo. O pedido foi feito mais de dois meses após a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão antes de ir a uma escola secundária e abrir fogo contra alunos e um professor, causando seis mortes no local e depois tirando a própria vida. A OpenAI afirmou ter identificado a conta da suspeita e banido-a do ChatGPT em junho do ano anterior, oito meses antes do ataque, mas não notificou as autoridades por entender que a atividade não justificava um encaminhamento policial.

Altman disse estar “profundamente arrependido” por não ter informado a polícia e declarou, em carta dirigida ao primeiro-ministro da Colúmbia Britânica, David Eby, que o pedido de desculpas busca reconhecer a perda irreversível sofrida pela comunidade. Eby classificou a declaração como “necessária, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados para monitorar conteúdos em tempo real, bloqueando contas que violam regras relacionadas a exploração sexual, automutilação, suicídio e promoção de violência. Em casos de riscos graves, o sistema sinaliza para revisão humana e pode compartilhar informações com as autoridades. No entanto, a empresa afirmou que considerou o caso da usuária como inadequado para acionamento policial na época.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI, que anunciou o reforço das medidas de segurança e a criação de um canal direto com a polícia. Altman afirmou que o compromisso da empresa é trabalhar com todos os níveis de governo para evitar novas tragédias.

Familiares de uma menina gravemente ferida no tiroteio entraram com uma ação judicial contra a OpenAI, alegando negligência e afirmando que a empresa tinha conhecimento do plano de um “evento com mortes em massa” sem tomar medidas preventivas.

A discussão sobre a responsabilidade de plataformas de inteligência artificial na prevenção de crimes ganha destaque com o caso. A OpenAI enfrenta pressão para aprimorar seus sistemas de detecção e cooperação com autoridades, enquanto busca equilibrar segurança e privacidade dos usuários.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Canadá, denúncia de violência, moderação de conteúdo, segurança digital, responsabilidade civil, inteligência artificial, ação judicial, polícia, Colúmbia Britânica.

Fonte: g1.globo.com