Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadens

Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge pela falta de comunicação da empresa com as autoridades sobre conteúdos preocupantes relacionados à suspeita de um ataque com múltiplas vítimas que ocorreu em fevereiro. A ausência de alerta à polícia ocorreu mesmo após a OpenAI identificar e banir a conta da atiradora oito meses antes da tragédia.

No dia 10 de fevereiro, uma mulher transgênero de 18 anos matou oito pessoas, incluindo a mãe, um meio-irmão, cinco estudantes e um professor, antes de tirar a própria vida em uma escola local de Tumbler Ridge, na Colúmbia Britânica. A OpenAI afirmou que havia banido a usuária em junho do ano anterior por comportamentos suspeitos detectados em seus sistemas.

Sam Altman, em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, expressou arrependimento por não ter informado a polícia sobre a conta banida. Altman reconheceu que as palavras podem não ser suficientes, mas considerou que o pedido de desculpas seria necessário para reconhecer o sofrimento causado à comunidade. Ele justificou o atraso na resposta pública dizendo que desejava respeitar o luto dos moradores.

O governo da Colúmbia Britânica qualificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses também pressionaram a OpenAI para que reforçasse suas medidas de segurança e estabelecesse um canal de comunicação direto com a polícia local.

A OpenAI explica que usa sistemas automatizados para moderação de conteúdo, que analisam interações em tempo real e podem banir usuários por violações como exploração sexual, incentivo à automutilação, suicídio ou promoção de violência. Em casos considerados de alto risco, as ocorrências são revisadas por humanos e, se as ameaças forem consideradas críveis, os dados são compartilhados com as autoridades policiais.

Após o ataque, a empresa afirmou estar comprometida em aprimorar seus protocolos para evitar que incidentes semelhantes aconteçam no futuro. Altman declarou que a OpenAI trabalhará com governos em diferentes níveis para melhorar a prevenção de crimes relacionados a seus serviços.

A família de uma das vítimas, uma menina que ficou gravemente ferida no tiroteio, moveu uma ação judicial contra a OpenAI por negligência. Os familiares afirmam que a empresa tinha conhecimento dos planos da atiradora para cometer um ataque com mortes em massa, mas não tomou medidas adequadas para impedi-lo.

O caso levanta questionamentos sobre a responsabilidade de plataformas digitais na identificação e comunicação de potenciais ameaças, especialmente envolvendo conteúdos gerados por inteligência artificial. As autoridades canadenses acompanham o desenrolar da situação enquanto se discutem novas regulamentações para empresas do setor tecnológico.

Palavras-chave relacionadas: OpenAI, Sam Altman, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, ChatGPT, moderação de conteúdo, ataque em escola, ação judicial, segurança digital, inteligência artificial, comunicação com autoridades, violência online.

Fonte: g1.globo.com