Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge após um ataque a tiros que deixou oito mortos em fevereiro, ocorrido por uma ex-usuária do ChatGPT. Altman reconheceu o erro da empresa ao não ter alertado a polícia sobre conteúdos preocupantes gerados pela suspeita meses antes do ataque.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois foi a uma escola secundária local e abriu fogo contra estudantes e um professor, matando seis pessoas e ferindo outras 25 antes de tirar a própria vida. A OpenAI afirmou ter identificado a conta da suspeita em junho do ano anterior e a bloqueou por violações das regras da plataforma, mas não comunicou as autoridades canadenses. A empresa justificou essa decisão por entender que a atividade não representava uma ameaça suficiente para acionar a polícia.

Altman enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, afirmando estar “profundamente arrependido” por não ter sinalizado a conta às autoridades. Ele explicou que o atraso na manifestação pública ocorreu para respeitar o luto da comunidade local. Eby declarou que o pedido de desculpas foi necessário, mas insuficiente em face da gravidade dos eventos.

A OpenAI utiliza sistemas automáticos de moderação que analisam conteúdos em tempo real no ChatGPT e podem restringir ou banir usuários que violem regras, como promoção de violência, automutilação ou suicídio. Esses sistemas também são programados para sinalizar riscos elevados para revisão humana e, em casos de ameaça considerada crível, compartilhar informações com a polícia. Após o ataque, as autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram tomar medidas regulatórias se as práticas de segurança não fossem aprimoradas.

A empresa afirmou que está comprometida em fortalecer seus protocolos e estabeleceu um canal de comunicação direto com a polícia para evitar novos incidentes. Altman ressaltou que a OpenAI pretende trabalhar em conjunto com governos para garantir que tragédias semelhantes não se repitam.

A família de uma menina gravemente ferida no tiroteio entrou com ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a plataforma tinha conhecimento dos planos da atiradora para realizar um ataque em massa, mas não adotou medidas preventivas.

Esse caso levanta questões sobre a responsabilidade das plataformas digitais na detecção e comunicação de conteúdos de risco às autoridades. A OpenAI tenta responder às críticas com melhorias nos seus sistemas e reforço na colaboração com órgãos governamentais.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, violência, moderação automática, segurança digital, responsabilidade das plataformas, ataque a tiros no Canadá.

Fonte: g1.globo.com