Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canad

Sam Altman, ex-CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT que cometeu um ataque em fevereiro, deixando oito mortos. O pedido veio após pressão das autoridades locais e mais de dois meses depois da tragédia.

Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola secundária da cidade e disparou contra alunos e um professor, causando seis mortes no local antes de tirar a própria vida. A suspeita havia sido banida da plataforma ChatGPT em junho do ano anterior, após o sistema identificar atividades preocupantes em sua conta.

A OpenAI afirmou na época que não comunicou as autoridades canadenses porque a atividade detectada não foi considerada grave o suficiente para justificar o alerta. Sam Altman reconheceu o erro e disse estar “profundamente arrependido” por não ter reportado o caso. Ele também explicou que o atraso no pedido de desculpas buscou respeitar o período de luto da comunidade.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, afirmou que o pedido é “necessário, e ainda assim grosseiramente insuficiente”. Após o ataque, autoridades locais convocaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso a empresa não reforçasse seus protocolos.

Altman afirmou que a OpenAI está comprometida em trabalhar com governos para evitar que incidentes similares se repitam. A empresa anunciou medidas para fortalecer a segurança, incluindo um canal direto de comunicação com as forças policiais.

A suspeita foi banida do ChatGPT por violar regras relacionadas a conteúdos que incentivam violência, automutilação ou suicídio, áreas monitoradas pelos sistemas automatizados da OpenAI. Em casos de comportamento de alto risco, o protocolo prevê revisão humana e possível aviso às autoridades.

Familiares de uma menina ferida no ataque abriram uma ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento do planejamento de um “evento com mortes em massa” e não tomou medidas preventivas.

A tragédia reacende o debate sobre a responsabilidade das plataformas de inteligência artificial na detecção e comunicação de ameaças antes que resultem em violência. A OpenAI reforça que continuará ajustando suas políticas para tornar o uso da tecnologia mais seguro.

—

Palavras-chave relacionadas:
Sam Altman, OpenAI, ChatGPT, Tumbler Ridge, ataque a tiros, polícia, segurança digital, inteligência artificial, responsabilidade, ação judicial, Colúmbia Britânica, moderação de conteúdo, prevenção de violência

Fonte: g1.globo.com