Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela ausência de alerta à polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT, que cometeu um ataque em fevereiro e matou oito pessoas. A empresa baniu a conta da suspeita oito meses antes da tragédia, mas não comunicou as autoridades.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois iniciou um tiroteio em uma escola local, onde matou cinco alunos e um professor antes de tirar a própria vida. O ataque deixou 10 mortos e 25 feridos no total.
Em comunicado inicial, a OpenAI informou que detectou a conta da suspeita em junho do ano anterior e a excluiu por violar regras da plataforma. A empresa justificou que não informou a polícia porque a atividade relatada não era considerada gravemente ameaçadora naquele momento.
Na carta divulgada em 24 de abril, Altman expressou arrependimento por não ter acionado as autoridades. Ele disse que o pedido de desculpas, embora tardio, visa reconhecer o impacto da tragédia para a comunidade de Tumbler Ridge e que foi feito para respeitar o período de luto da população.
O primeiro-ministro da Colúmbia Britânica, David Eby, classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais também pressionam para que medidas mais rigorosas sejam adotadas pela OpenAI.
A OpenAI utiliza sistemas automatizados para moderação de conteúdo, capazes de restringir ou banir usuários que violam regras, incluindo promoção de violência e ameaças à integridade física. Em casos de risco elevado, a empresa pode repassar informações às autoridades policiais.
Após o ataque, a OpenAI recebeu uma convocação das autoridades canadenses para revisar seus protocolos de segurança. A empresa anunciou que irá fortalecer suas práticas e estabeleceu um canal direto de comunicação com órgãos policiais.
A família de uma menina gravemente ferida no tiroteio entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento de planos da atiradora para um evento com mortes em massa e não tomou providências suficientes para evitar o ataque.
Sam Altman declarou que a OpenAI está comprometida em colaborar com governos para prevenir incidentes futuros semelhantes e reforçar a segurança em suas plataformas.
Palavras-chave para SEO: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, ChatGPT, ataque no Canadá, violência online, moderação de conteúdo, ação judicial, segurança digital.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
