Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter informado a polícia sobre uma usuária do ChatGPT que, meses depois de ser banida da plataforma, cometeu um ataque a tiros que causou a morte de oito pessoas em fevereiro. O pedido de desculpas foi divulgado em 24 de abril, duas meses após a tragédia.

Em fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa, seguiu para uma escola secundária local, onde matou cinco crianças e um professor, e depois tirou a própria vida. A partir de junho do ano anterior, a OpenAI havia identificado a conta da suspeita por meio de seus sistemas automáticos de detecção de abuso e banido a usuária do ChatGPT.

A empresa não comunicou a polícia na época porque considerou que as atividades da conta não configuravam risco grave ou iminente o suficiente para justificar o encaminhamento às autoridades. Em sua carta, Altman se disse “profundamente arrependido por não termos alertado as autoridades policiais sobre a conta que foi banida em junho”. Ele afirmou que o pedido de desculpas visava reconhecer a dor e a perda sofridas pela comunidade.

O primeiro-ministro da província da Colúmbia Britânica, David Eby, respondeu ao pedido classificando-o como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades locais questionam a atuação da OpenAI e demandam medidas mais rigorosas para evitar novos incidentes.

A OpenAI utiliza sistemas automatizados para moderação de conteúdo em tempo real. Essas ferramentas identificam violações como exploração sexual, incitação à automutilação, suicídio e promoção da violência. Comportamentos considerados de alto risco são submetidos a revisões humanas, e, em casos de ameaças sérias, dados podem ser compartilhados com a polícia.

Após o ataque, a OpenAI afirmou ter reforçado suas medidas de segurança e estabelecido um canal direto de comunicação com as autoridades policiais. A empresa se comprometeu a trabalhar com governos para prevenir futuras tragédias desse tipo.

Familiares de uma menina que ficou gravemente ferida no tiroteio apresentaram uma ação judicial por negligência contra a OpenAI. Eles alegam que a empresa tinha conhecimento do planejamento do ataque pela suspeita, mas não tomou providências adequadas para impedir o crime.

O ataque em Tumbler Ridge gerou debate sobre a responsabilidade das plataformas de inteligência artificial no monitoramento de comportamentos de risco, sobretudo no que diz respeito a intervenções preventivas. O caso evidencia desafios legais e éticos sobre vigilância, privacidade e segurança pública.

A resposta da OpenAI e as investigações em curso podem influenciar futuras regulações sobre o uso dessas tecnologias e o papel das empresas no controle de conteúdos potencialmente perigosos. A discussão ganhou repercussão internacional, envolvendo autoridades, especialistas e comunidades afetadas.

Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, responsabilidade corporativa, inteligência artificial, ataque a tiros, justiça, prevenção, tecnologia, políticas públicas.

Fonte: g1.globo.com