O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes gerados por uma usuária do ChatGPT antes dela realizar um ataque que matou oito pessoas em fevereiro. A empresa identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não repassou a informação às autoridades locais.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em sua casa, depois foi a uma escola secundária e abriu fogo contra alunos e um professor, provocando a morte de seis pessoas no local antes de tirar a própria vida. A OpenAI bloqueou o acesso da jovem ao ChatGPT em junho do ano anterior, por suspeitas de comportamento abusivo.

Sam Altman afirmou estar “profundamente arrependido” por não ter encaminhado o caso para a polícia e enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, dizendo que o pedido de desculpas é necessário para reconhecer o impacto do ataque. O primeiro-ministro considerou o posicionamento “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que não comunicou as autoridades na época porque a atividade identificada não atingia um nível considerado grave suficiente para justificar um relatório policial. A empresa informou que utiliza sistemas automatizados de moderação que detectam conteúdos em tempo real, restringindo ou banindo contas que violam regras, como promoção de violência ou suicídio.

Em casos de alto risco, esses sistemas alertam revisores humanos e podem compartilhar dados com a polícia, mas isso não ocorreu no caso específico da usuária banida. Após o episódio, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias caso não ocorressem mudanças nas práticas da empresa.

Desde então, a OpenAI afirmou que está reforçando suas medidas de segurança e estabeleceu um canal direto de comunicação com as forças policiais locais. Em sua carta, Altman disse que o foco da companhia agora é trabalhar com governos para evitar que eventos similares voltem a ocorrer.

Uma família de uma menina gravemente ferida no ataque entrou com processo judicial contra a OpenAI, alegando negligência da empresa por não ter tomado providências apesar de saber dos planos da atiradora para um ataque em massa. O caso ainda está em andamento.

O tiroteio em Tumbler Ridge levantou questionamentos sobre o papel das plataformas de inteligência artificial na identificação e prevenção de ameaças, destacando desafios na responsabilidade e na cooperação entre empresas e autoridades.

Sam Altman reafirmou o compromisso da OpenAI em aprimorar seus controles e colaborar com órgãos públicos para evitar novas tragédias decorrentes do uso indevido da tecnologia.

—

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, pedido de desculpas, tiroteio em massa, Tumbler Ridge, ChatGPT, ataque no Canadá, responsabilidade da IA, moderação de conteúdo, segurança digital, comunicação com autoridades, investigação policial, prevenção de violência, processo judicial OpenAI.

Fonte: g1.globo.com