O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre conteúdos preocupantes produzidos por uma ex-usuária do ChatGPT, que matou oito pessoas em um ataque em fevereiro deste ano. A iniciativa ocorre após uma ação judicial e críticas das autoridades locais sobre a resposta da empresa ao caso.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa, antes de ir a uma escola secundária em Tumbler Ridge e abrir fogo contra estudantes e um professor, totalizando cinco crianças e um docente mortos. Posteriormente, a atiradora tirou a própria vida. A OpenAI afirmou ter banido a usuária de seus sistemas em junho do ano anterior, oito meses antes do ataque, após identificar conteúdos de risco por seus sistemas de moderação automática.

Sam Altman afirmou estar “profundamente arrependido” por não ter comunicado as autoridades policiais canadenses sobre a conta que foi bloqueada. Segundo ele, a decisão de não alertar a polícia inicialmente baseou-se na avaliação de que os conteúdos não apresentavam uma ameaça grave o suficiente para justificar um encaminhamento. O pedido de desculpas foi enviado por meio de uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, mais de dois meses após a tragédia.

O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses ressaltaram a importância de medidas mais eficazes para impedir que incidentes do tipo se repitam e pressionaram a OpenAI a reforçar seus protocolos de segurança e comunicação com as forças policiais.

A OpenAI utiliza sistemas automatizados que monitoram em tempo real o conteúdo gerado pelos usuários do ChatGPT, podendo restringir ou banir contas que violem regras relacionadas à exploração sexual, incentivo à automutilação, suicídio e promoção de violência. Em casos de ameaças consideradas graves, a empresa prevê a sinalização para análise humana e eventual compartilhamento de informações com as autoridades.

Após o ataque, a empresa anunciou a criação de um canal direto de comunicação com a polícia canadense e o compromisso de aprimorar as medidas de segurança para evitar ocorrências semelhantes. Sam Altman destacou que a OpenAI tem a intenção de trabalhar com diferentes níveis de governo para prevenir futuros incidentes.

Familiares de uma das vítimas, uma menina gravemente ferida no ataque, entraram com uma ação judicial alegando negligência contra a OpenAI, afirmando que a empresa tinha conhecimento do plano da atiradora para realizar um “evento com mortes em massa” e não tomou as providências necessárias para impedir o ataque.

O caso levanta discussões sobre a responsabilidade de plataformas de inteligência artificial na detecção e prevenção de ameaças reais, além da necessidade de canais eficientes entre empresas e autoridades para garantir a segurança pública.

—

Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, pedido de desculpas, segurança digital, moderação de conteúdo, responsabilidade civil, violência, sistema de denúncia, inteligência artificial, ação judicial, prevenção de crimes.

Fonte: g1.globo.com