Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes relacionados a uma usuária do ChatGPT, que cometeu um ataque em fevereiro e matou oito pessoas. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
O ataque ocorreu em 10 de fevereiro, quando uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, depois matou cinco crianças e um professor em uma escola secundária local, antes de tirar a própria vida. A suspeita havia sido banida do ChatGPT em junho do ano anterior, após a OpenAI identificar conteúdos de abuso em sua conta.
A OpenAI afirmou que não reportou a conta à polícia na época porque a atividade não atingia o nível considerado grave para um encaminhamento às autoridades. Em sua carta, Altman manifestou profundo arrependimento por essa decisão e reconheceu a perda sofrida pela comunidade de Tumbler Ridge.
O primeiro-ministro David Eby respondeu classificando o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Ele ressaltou a importância de medidas concretas para evitar futuros incidentes.
A OpenAI usa sistemas automatizados para monitorar conteúdos em tempo real. Contas que violam as regras, como promoção de violência, automutilação ou suicídio, podem ser restritas ou banidas. Em casos graves, os sistemas sinalizam comportamentos de alto risco para revisão humana e podem compartilhar informações com as autoridades.
Após o tiroteio, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram ações regulatórias caso a empresa não reforçasse suas medidas de segurança. Em resposta, a OpenAI criou um canal direto de comunicação com a polícia e prometeu melhorar seus controles.
Altman destacou na carta o compromisso da OpenAI em colaborar com os governos para evitar tragédias futuras. Ele explicou que o atraso no pedido de desculpas ocorreu por respeito ao luto da comunidade afetada.
Familiares de uma menina gravemente ferida no ataque entraram com ação judicial contra a OpenAI, acusando a empresa de negligência. Eles afirmam que a OpenAI tinha conhecimento de um plano para mortes em massa, mas não tomou providências eficazes.
O episódio levanta questionamentos sobre a responsabilidade das plataformas digitais na moderação de conteúdos e na comunicação com autoridades para prevenir atos violentos. A OpenAI segue sob pressão para aprimorar seus protocolos de segurança e transparência.
Palavras-chave relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, violência online, segurança digital, denúncia automática, ação judicial, responsabilidade de empresas, ataque em escola, prevenção de violência.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
