Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma ex-usuária do ChatGPT antes dela cometer um ataque que matou oito pessoas em fevereiro. O pedido foi feito em carta divulgada no dia 24 de abril, mais de dois meses após a tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos assassinou a mãe e o meio-irmão em casa, depois foi a uma escola local onde matou cinco estudantes e um professor antes de tirar a própria vida. A OpenAI afirmou ter identificado a conta da suspeita por meio de seus sistemas de detecção de abuso e banido-a do ChatGPT oito meses antes do ataque, em junho.

A empresa não informou a polícia canadense na época porque avaliou que a atividade da usuária não justificava um encaminhamento às autoridades. Sam Altman declarou estar “profundamente arrependido” por não ter avisado as forças policiais sobre o caso. Ele também justificou o atraso no pedido de desculpas, afirmando querer respeitar o período de luto dos moradores.

O primeiro-ministro da Colúmbia Britânica, David Eby, classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram responder com ações regulatórias caso a empresa não aprimorasse suas medidas.

A OpenAI afirmou que utiliza sistemas automatizados para moderar conteúdos em tempo real, restringindo ou banindo contas que violem suas regras. Esses sistemas avaliam casos de exploração sexual, incentivo ao suicídio, automutilação e promoção de violência. Em situações consideradas graves, o sistema sinaliza comportamentos de alto risco para revisão humana e pode compartilhar informações com a polícia.

Desde o ataque, a OpenAI anunciou o reforço de suas normas de segurança e a criação de um canal de comunicação direta com as autoridades policiais. Sam Altman afirmou que a companhia está comprometida em trabalhar com diferentes níveis de governo para evitar novos incidentes semelhantes.

Familiares de uma menina que ficou ferida no tiroteio entraram com um processo judicial contra a OpenAI por negligência. Eles alegam que a empresa sabia dos planos da atiradora para cometer mortes em massa, mas não tomou nenhuma providência para impedir o ataque.

A tragédia em Tumbler Ridge acendeu o debate sobre a responsabilidade das plataformas digitais na prevenção de crimes cometidos por usuários que manifestam intenções violentas. A OpenAI enfrenta pressão para aprimorar seus mecanismos de detecção e resposta em situações que possam indicar risco iminente à segurança pública.

Palavras-chave relacionadas para SEO:
OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, segurança digital, moderação de conteúdo, polícia, responsabilidade, ataque no Canadá, prevenção de violência, sistema automatizado, legislação digital, processo judicial

Fonte: g1.globo.com