O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes identificados em uma conta do ChatGPT ligada à mulher que matou oito pessoas em um ataque em fevereiro. A confusão resultou em críticas das autoridades locais e um processo judicial por negligência contra a empresa.

O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois atirou em cinco alunos e um professor em uma escola secundária local, antes de tirar a própria vida. A OpenAI afirmou ter banido a usuária do ChatGPT oito meses antes do ataque, em junho, após identificar conteúdos abusivos pela sua plataforma de moderação.

Altman disse estar “profundamente arrependido” por não ter informado as autoridades policiais sobre a conta banida na época. Segundo ele, a decisão de não reportar se baseou na avaliação de que a atividade não era grave o suficiente para justificar o encaminhamento às autoridades. O pedido de desculpas foi enviado por carta ao primeiro-ministro da Colúmbia Britânica, David Eby, que considerou a manifestação “necessária, e ainda assim grosseiramente insuficiente”.

A OpenAI utiliza sistemas automatizados que monitoram conteúdos em tempo real para detectar violações como exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Contas podem ser restringidas ou banidas quando violam estas regras. Nos casos de risco alto, os sistemas sinalizam para revisão humana e, se confirmada a ameaça, os dados relevantes podem ser compartilhados com as autoridades policiais.

Após o tiroteio, as autoridades canadenses convocaram representantes da OpenAI para esclarecimentos e ameaçaram ações regulatórias caso as medidas de segurança não fossem reforçadas. A empresa declarou que criou um canal direto de comunicação com a polícia e pretende intensificar os controles para evitar novas tragédias.

Além do pedido de desculpas, Altman afirmou que a OpenAI está empenhada em colaborar com diferentes níveis de governo para prevenir eventos semelhantes no futuro. No entanto, a família de uma menina gravemente ferida no ataque entrou com processo judicial alegando que a empresa foi negligente ao saber de planos da atiradora para um “evento com mortes em massa” e não ter tomado providências.

O caso evidenciou a dificuldade das empresas de tecnologia em balancear a privacidade dos usuários e a necessidade de intervenção em situações de risco. A controvérsia também ressaltou os desafios na regulação e no monitoramento de inteligência artificial aplicada em serviços amplamente usados.

Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, tiroteio Canadá, ChatGPT, moderação de conteúdo, segurança digital, Colúmbia Britânica, processo judicial, violência em massa, responsabilidade corporativa.

Fonte: g1.globo.com