O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma ex-usuária do ChatGPT, que matou oito pessoas em fevereiro. A confissão foi feita em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma jovem transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, depois matou cinco crianças e um professor em uma escola local, e em seguida cometeu suicídio. A suspeita já havia sido banida do ChatGPT oito meses antes do ataque, em junho do ano passado.

Segundo a OpenAI, a conta da usuária foi identificada por seus sistemas de moderação automática por violar regras relacionadas a promoção de violência. Contudo, a empresa não notificou as autoridades na época, por entender que a atividade não era grave o suficiente para justificar um alerta policial.

Sam Altman afirmou que está “profundamente arrependido” por não ter reportado o caso às autoridades e reconheceu a necessidade do pedido de desculpas para reconhecer o dano causado à comunidade de Tumbler Ridge. O comunicado foi divulgado mais de dois meses após o episódio, em respeito ao luto dos moradores.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele e autoridades canadenses têm cobrado mudanças nas políticas da OpenAI para evitar que incidentes semelhantes se repitam.

A OpenAI afirmou que utiliza sistemas automáticos para analisar conteúdos em tempo real, podendo restringir ou banir contas que violem suas regras, que incluem exploração sexual, autolesão, suicídio e promoção de violência. Em casos graves, o sistema sinaliza à equipe humana, que pode encaminhar dados às autoridades policiais se identificar ameaças críveis.

Após o tiroteio, o governo canadense convocou a equipe de segurança da OpenAI e ameaçou adotar medidas regulatórias caso a empresa não reforçasse suas políticas de segurança. Em resposta, a OpenAI criou um canal de comunicação direto com as autoridades locais e implementou medidas adicionais para monitorar conteúdos de risco.

Na carta, Altman disse que a empresa está comprometida a trabalhar com todos os níveis de governo para impedir que tragédias semelhantes ocorram no futuro. Ele afirmou que a OpenAI buscará formas de melhorar seus sistemas de detecção e resposta a situações de alto risco.

Familiares de uma das vítimas do ataque, uma menina que ficou gravemente ferida, entraram com ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento dos planos da atiradora para cometer um massacre e não tomou as medidas necessárias para impedir o ato.

O caso levanta debates sobre os limites das plataformas de inteligência artificial na prevenção de crimes e na responsabilidade sobre conteúdos produzidos ou solicitados pelos usuários. Autoridades, especialistas e empresas de tecnologia enfrentam pressões para aprimorar mecanismos que identifiquem ameaças reais sem infringir direitos individuais.

—

Palavras-chave relacionadas:
OpenAI
Sam Altman
Tumbler Ridge
ChatGPT
tiroteio em massa
Colúmbia Britânica
ataque a tiros
moderação de conteúdo
responsabilidade em IA
segurança digital
ação judicial
violência online

Fonte: g1.globo.com