O CEO da OpenAI, Sam Altman, pediu desculpas à cidade

O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma ex-usuária do ChatGPT, que em fevereiro cometeu um ataque a tiros, matando oito pessoas. Altman enviou a declaração mais de dois meses após a tragédia, alegando respeito ao luto da comunidade local.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, antes de atacar uma escola secundária em Tumbler Ridge, na Colúmbia Britânica, onde tirou a vida de cinco estudantes e um professor, e depois cometeu suicídio. A OpenAI afirmou que havia banido a usuária de seus sistemas oito meses antes do crime, em junho, após identificar comportamento abusivo, mas não reportou o caso às autoridades.

Em sua carta ao primeiro-ministro da Colúmbia Britânica, David Eby, Altman declarou estar “profundamente arrependido” por não ter comunicado a polícia. Ele reconheceu a gravidade do ocorrido e garantiu que a empresa está empenhada em melhorar seus protocolos para evitar novos episódios semelhantes. O pedido de desculpas foi considerado pelo premier como “necessário, e ainda assim grosseiramente insuficiente”.

A OpenAI explicou que utiliza sistemas automatizados de moderação capazes de revisar conteúdos em tempo real, aplicando restrições ou banimentos quando identificam violações às regras, que abrangem desde exploração sexual até promoção de violência. Em casos de risco extremo, a empresa sinaliza a situação para revisão humana e pode compartilhar informações com as autoridades policiais, embora tenha classificado a situação da usuária banida como não crítica o bastante para essa etapa.

Após o tiroteio, autoridades canadenses mantiveram reunião com a equipe de segurança da OpenAI e informaram que poderão adotar medidas regulatórias se a empresa não aprimorar seus processos. Em resposta, a empresa anunciou o reforço das medidas de segurança e a implementação de um canal direto com a polícia.

A família de uma das vítimas feridas no ataque entrou com uma ação judicial contra a OpenAI, alegando negligência. Eles afirmam que a empresa tinha conhecimento do planejamento do “evento com mortes em massa” pela atiradora, mas não tomou providências.

Em seu compromisso público, Altman disse que a OpenAI trabalhará com governos de todos os níveis para evitar a repetição de casos como o ocorrido em Tumbler Ridge, buscando formas de identificar e reportar ameaças com maior rapidez e eficiência.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ataque a tiros, segurança digital, moderação de conteúdo, responsabilidade tecnológica, ação judicial, prevenção de violência.

Fonte: g1.globo.com