Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes do ataque que matou oito pessoas em fevereiro. O incidente envolveu uma jovem que foi banida da plataforma oito meses antes do tiroteio.
No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola secundária de Tumbler Ridge, na Colúmbia Britânica. Ela matou cinco estudantes e um professor e, em seguida, tirou a própria vida.
A OpenAI revelou ter identificado a conta da suspeita em junho do ano anterior e a banido do ChatGPT por violações às regras da plataforma. Contudo, a empresa não notificou as autoridades locais, argumentando que o conteúdo encontrado não justificava um alerta policial.
Sam Altman afirmou, em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, que “está profundamente arrependido” pela falta de comunicação com a polícia. Ele também mencionou que o pedido de desculpas foi feito com atraso para respeitar o período de luto da comunidade.
O primeiro-ministro David Eby considerou o pedido de desculpas de Altman “necessário, e ainda assim grosseiramente insuficiente”, criticando a postura da empresa diante do evento trágico.
A OpenAI explicou que utiliza sistemas automatizados de moderação que monitoram conteúdos em tempo real e banem contas que violam regras contra exploração sexual, promoção de violência, apoio à automutilação e suicídio. Esses sistemas também podem sinalizar ameaças graves para revisão humana, com possibilidade de compartilhamento de dados com a polícia.
Após o ataque, autoridades canadenses convocaram representantes da OpenAI para discutir as medidas de segurança da plataforma, ameaçando ações regulatórias caso não houvesse melhorias. A empresa se comprometeu a reforçar suas políticas e estabeleceu um canal direto de comunicação com as autoridades locais.
Em sua carta, Altman afirmou que a OpenAI continuará a colaborar com governos para evitar que casos semelhantes ocorram no futuro. “Nosso foco é trabalhar com todos os níveis de governo para ajudar a garantir que algo assim nunca aconteça novamente”, escreveu.
A família de uma menina que ficou gravemente ferida no ataque entrou com uma ação judicial contra a OpenAI por negligência. Eles alegam que a empresa tinha conhecimento do planejamento do tiroteio e não tomou medidas adequadas para impedir a tragédia.
O caso levanta questões sobre a responsabilidade das empresas de tecnologia no monitoramento de conteúdos e na comunicação com autoridades em situações de risco real.
Palavras-chave relacionadas: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, polícia, violência, moderação de conteúdo, segurança digital, ação judicial, Colúmbia Britânica, tecnologia, responsabilidade.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
