Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT que, em fevereiro, matou oito pessoas em um ataque a tiros. A empresa informou que identificou e baniu a conta da suspeita oito meses antes da tragédia, mas não comunicou as autoridades por considerar que a atividade não justificava o encaminhamento.

No dia 10 de fevereiro, uma mulher de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola local e atirou contra alunos e um professor, deixando seis mortos no local. Após o ataque, ela tirou a própria vida. A OpenAI declarou que seus sistemas de moderação detectaram conteúdos de alto risco e baniram a usuária em junho do ano anterior.

Sam Altman disse estar “profundamente arrependido” por não ter acionado a polícia e enviou uma carta ao primeiro-ministro da Colúmbia Britânica, David Eby, reconhecendo a perda irreparável da comunidade. Ele também explicou que o pedido de desculpas foi feito mais de dois meses após o ataque para respeitar o período de luto da população local.

O primeiro-ministro David Eby considerou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses cobraram medidas da OpenAI, ameaçando responder com ações regulatórias caso não houvesse mudanças. A empresa comprometeu-se a reforçar a segurança e a manter um canal direto de comunicação com a polícia.

A tecnologia do ChatGPT conta com sistemas automatizados que monitoram conteúdos em tempo real e podem banir contas que violem regras, como promoção de violência, apoio à automutilação ou exploração sexual. Em casos graves, os sistemas sinalizam riscos para revisão humana e possível compartilhamento de informações com autoridades.

A família de uma criança gravemente ferida no ataque entrou com uma ação por negligência contra a OpenAI, alegando que a empresa sabia dos planos da atiradora para um “evento com mortes em massa” e não tomou providências.

Altman afirmou que a OpenAI seguirá trabalhando junto a governos para tentar evitar novos ataques e garantir que situações semelhantes não se repitam.

—

Palavras-chave para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Canadá, Tumbler Ridge, ataque a tiros, moderação de conteúdo, segurança digital, negligência, ação judicial, tecnologia e segurança, polícia, sistema de denúncia, responsabilidade empresarial.

Fonte: g1.globo.com