O ex-CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre sinais preocupantes em uma conta do ChatGPT usada por uma mulher que cometeu um ataque a tiros em fevereiro, deixando oito mortos. A justificativa para o pedido de desculpas foi enviada após a repercussão do incidente e o pedido das autoridades locais.
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou sua mãe e meio-irmão em casa, em Tumbler Ridge, província da Colúmbia Britânica, e depois foi até uma escola onde matou cinco alunos e um professor antes de tirar a própria vida. A polícia descobriu que a suspeita havia sido banida do ChatGPT oito meses antes do ataque por meio dos sistemas de detecção de abuso da OpenAI.
A empresa afirmou que, apesar da conta ter sido suspensa em junho do ano anterior, não comunicou a polícia porque as atividades observadas não foram consideradas graves o suficiente para justificar uma notificação formal. Altman explicou que o atraso no pedido de desculpas se deu pelo desejo de respeitar o período de luto da comunidade de Tumbler Ridge.
Em carta divulgada no dia 24 de abril, Altman declarou estar “profundamente arrependido” por não ter informado as autoridades e reconheceu a gravidade do dano causado pela tragédia. Ele afirmou também que a OpenAI pretende trabalhar com os governos para evitar eventos semelhantes no futuro.
O primeiro-ministro da Colúmbia Britânica, David Eby, considerou o pedido de desculpas necessário, mas “grosseiramente insuficiente”. Autoridades canadenses exigiram melhorias nas medidas de segurança da OpenAI e criaram um canal direto de comunicação entre a empresa e as forças policiais para tratar de ameaças potenciais.
A OpenAI usa sistemas automatizados para moderar conteúdos em tempo real e restringir acessos que violem as regras, como promoção de violência ou incentivo ao suicídio. Comportamentos de alto risco são sinalizados para avaliação humana, e, quando ameaças consideradas críveis são detectadas, os dados podem ser compartilhados com a polícia.
Familiares de uma criança gravemente ferida no tiroteio entraram com ação judicial contra a OpenAI, acusando a empresa de negligência, alegando que a companhia tinha conhecimento do plano da atiradora para um “evento com mortes em massa” e não tomou providências.
Após o ataque, a OpenAI afirmou que irá reforçar suas políticas de segurança e aprofundar o trabalho junto a autoridades para prevenir casos semelhantes, enfatizando o compromisso em aperfeiçoar seus sistemas de moderação e comunicação com a polícia.
Palavras-chave relacionadas para SEO:
– Sam Altman
– OpenAI
– ChatGPT
– Tiroteio em massa
– Tumbler Ridge
– Colúmbia Britânica
– Ataque a tiros
– Segurança digital
– Moderação de conteúdo
– Responsabilidade tecnológica
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
