O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge pela falha em alertar a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de um ataque que matou oito pessoas em fevereiro. A ação da empresa foi questionada após a revelação de que a suspeita foi banida do chatbot meses antes do crime, mas sem comunicação às autoridades.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguida de um ataque a tiros em uma escola local, onde matou cinco crianças e um professor e depois tirou a própria vida. A OpenAI afirmou ter banido a conta da usuária em junho do ano anterior por violações às regras da plataforma.

A empresa declarou que não notificou a polícia na época porque a atividade identificada não foi considerada grave o suficiente para justificar um alerta às autoridades. Em carta enviada ao primeiro-ministro da província da Colúmbia Britânica, David Eby, Altman disse estar “profundamente arrependido” pela omissão e justificou o atraso no pedido de desculpas por respeitar o período de luto da comunidade.

O primeiro-ministro classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades locais solicitaram reuniões com a equipe de segurança da OpenAI e ameaçaram adotar medidas regulatórias caso melhorias não fossem implementadas.

A OpenAI informou que seus sistemas automatizados de moderação monitoram conteúdos em tempo real e aplicam restrições ou banimentos a contas que violam regras contra exploração sexual, automutilação, suicídio e promoção de violência. Em casos de risco elevado, o sistema sinaliza para revisão humana e pode encaminhar dados às autoridades policiais.

Conforme Altman, a empresa está comprometida em aprimorar seus processos para evitar incidentes semelhantes. Segundo ele, a OpenAI pretende colaborar com governos para garantir a segurança pública diante do uso da inteligência artificial.

A família de uma menina ferida no tiroteio moveu uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do planejamento do ataque, mas não tomou providências necessárias para impedir a tragédia.

O incidente gerou discussões sobre a responsabilidade das plataformas de inteligência artificial em reportar possíveis ameaças. A OpenAI anunciou a criação de um canal direto de comunicação com a polícia e prometeu reforçar suas medidas de segurança.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, inteligência artificial, moderação de conteúdo, segurança pública, ação judicial.

Fonte: g1.globo.com