Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes compartilhados por uma usuária do ChatGPT que cometeu um ataque fatal em fevereiro. O ataque deixou oito mortos, incluindo crianças e um professor, e foi motivado por ações da jovem, que havia sido banida do serviço oito meses antes da tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, depois abriu fogo em uma escola local da Colúmbia Britânica, matando cinco estudantes e um professor antes de tirar a própria vida. A conta da suspeita foi identificada pelos sistemas de detecção da OpenAI em junho do ano anterior e banida do chatbot, mas o caso não foi reportado às autoridades.

Sam Altman expressou arrependimento pelo fato de a empresa não ter comunicado a polícia. Ele ressaltou que o pedido de desculpas, enviado mais de dois meses após o ataque, foi feito para respeitar o período de luto da comunidade. “Embora palavras nunca sejam suficientes, acredito que um pedido de desculpas é necessário para reconhecer o dano e a perda irreversível que sua comunidade sofreu”, escreveu.

O primeiro-ministro da Colúmbia Britânica, David Eby, avaliou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses exigiram melhorias nos processos de segurança da OpenAI, que respondeu anunciando o reforço dos seus sistemas e a criação de um canal de contato direto com a polícia local.

A OpenAI utiliza sistemas automatizados de moderação para analisar interações em tempo real. Esses sistemas podem banir usuários por violação das regras, que incluem a promoção de violência, suicídio e outros comportamentos prejudiciais. Em casos graves, os sistemas sinalizam os conteúdos para revisão humana, podendo compartilhar informações com a polícia quando há ameaças críveis.

A família de uma vítima que ficou gravemente ferida no atentado ajuizou uma ação judicial contra a OpenAI, alegando negligência da empresa. Eles afirmam que a OpenAI tinha conhecimento dos planos da atiradora para um “evento com mortes em massa” e não tomou medidas para impedir o ataque.

Sam Altman afirmou que a OpenAI está comprometida em colaborar com autoridades para evitar novos incidentes. A empresa busca aprimorar seus sistemas de segurança e garantir que informações relevantes sejam repassadas às autoridades sempre que o risco for identificado.

O caso destaca desafios no uso de ferramentas de inteligência artificial para monitorar e prevenir ameaças à segurança pública. Autoridades e empresas buscam estabelecer protocolos que equilibrem privacidade, moderação automática e a necessidade de atuar preventivamente em situações de risco.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, inteligência artificial, moderação de conteúdo, segurança digital, ataque em escola, denúncia de ameaças, ação judicial OpenAI, sistemas automatizados, prevenção de violência.

Fonte: g1.globo.com