Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária que cometeu um ataque em fevereiro, que resultou na morte de oito pessoas. O pedido foi feito por meio de uma carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa antes de abrir fogo em uma escola local. Durante o ataque, cinco crianças e um professor foram mortos, e a atiradora tirou a própria vida. A OpenAI afirmou que identificou a conta da suspeita em junho, oito meses antes do ataque, por meio de seus sistemas de detecção de abuso e banida do ChatGPT.

A empresa não notificou as autoridades na época, alegando que a atividade da usuária não foi considerada grave o suficiente para justificar o encaminhamento às forças policiais. Altman afirmou estar “profundamente arrependido” por essa decisão e reconheceu a necessidade do pedido de desculpas para reconhecer o impacto causado à comunidade.

O primeiro-ministro David Eby considerou a retratação necessária, mas “grosseiramente insuficiente”, destacando a gravidade do caso e a importância de ações mais concretas. A OpenAI afirmou que busca aprimorar suas medidas de segurança para prevenir casos semelhantes.

A OpenAI utiliza sistemas automatizados de moderação que analisam conteúdos em tempo real para detectar violações, como apoio à violência, automutilação e suicídio. Em situações consideradas de alto risco, a empresa pode revisar o conteúdo com uma equipe humana e compartilhar informações com a polícia quando necessário.

Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e indicaram que poderiam aplicar sanções regulatórias caso não houvesse melhorias nos processos de segurança. A empresa respondeu que reforçaria suas práticas e estabeleceu um canal de comunicação direto com as forças policiais.

Além da resposta da OpenAI, a família de uma menina que ficou gravemente ferida no tiroteio entrou com uma ação judicial contra a empresa, alegando negligência. Segundo a ação, a OpenAI teria conhecimento do planejamento da atiradora para um “evento com mortes em massa” e não teria tomado medidas para evitar o ataque.

No documento, Altman destacou o compromisso da OpenAI em cooperar com os governos para garantir que situações como essa não se repitam. Ele justificou o atraso no pedido de desculpas para respeitar o período de luto da comunidade afetada.

O caso reacende o debate sobre a responsabilidade das empresas de tecnologia na prevenção de crimes cometidos por meio do uso de suas plataformas. A discussão envolve a eficácia dos sistemas de moderação automática diante de conteúdos que podem representar ameaças reais.

Palavras-chave relacionadas para SEO: Sam Altman, OpenAI, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, polícia, moderação de conteúdo, responsabilidade tecnológica, ataque em escola, ação judicial, segurança digital, prevenção de violência.

Fonte: g1.globo.com