Sam Altman, CEO da OpenAI, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes enviados por uma usuária do ChatGPT antes de um ataque que deixou oito mortos em fevereiro. O pedido foi feito em carta enviada ao primeiro-ministro da Colúmbia Britânica, David Eby, nesta sexta-feira (24).
Em 10 de fevereiro, uma mulher transgênero de 18 anos matou a mãe e o meio-irmão em casa e depois atirou em uma escola local, onde matou cinco crianças e um professor antes de tirar a própria vida. A suspeita já havia sido banida do ChatGPT em junho do ano anterior por violações às políticas da plataforma.
Altman afirmou que a OpenAI identificou a conta da suspeita e a suspendeu oito meses antes da tragédia, mas não informou a polícia por considerar que as violações não justificavam a notificação às autoridades. Ele disse estar “profundamente arrependido” por não ter comunicado o caso e justificou o atraso no pedido de desculpas para respeitar o luto da comunidade.
O primeiro-ministro David Eby classificou o pedido como “necessário, e ainda assim grosseiramente insuficiente”. Autoridades canadenses afirmaram que a OpenAI será cobrada para implementar medidas que evitem ocorrências semelhantes no futuro.
A OpenAI possui sistemas automatizados que monitoram conteúdos em tempo real, podendo banir contas que apresentem violações como promoção de violência, automutilação e suicídio. O sistema pode sinalizar conteúdos de alto risco para revisão humana e, em casos graves, compartilhar informações com a polícia.
Após o ataque, a empresa anunciou a criação de um canal direto de comunicação com autoridades policiais e prometeu reforçar seus mecanismos de moderação e segurança. Sam Altman ressaltou o compromisso da OpenAI em colaborar com governos para prevenir novas tragédias.
Familiares de uma vítima do tiroteio entraram com ação judicial contra a OpenAI por negligência, alegando que a empresa tinha conhecimento dos planos da atiradora para um ataque com múltiplas mortes e não tomou providências.
O caso levanta questões sobre os limites da moderação e responsabilidade das empresas de tecnologia diante de conteúdos potencialmente perigosos divulgados em suas plataformas.
—
Palavras-chave relacionadas: OpenAI, Sam Altman, ChatGPT, tiroteio em massa, Tumbler Ridge, Colúmbia Britânica, moderação de conteúdo, segurança digital, responsabilidade de plataformas, violência online.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
