O CEO da OpenAI, Sam Altman, pediu desculpas à cidade canadense de Tumbler Ridge por não ter alertado a polícia sobre conteúdos preocupantes de uma usuária do ChatGPT antes de ela cometer um ataque em fevereiro que deixou oito mortos. O pedido foi feito em carta divulgada nesta sexta-feira (24) e resulta do ataque perpetrado por uma jovem transgênero de 18 anos.
Em 10 de fevereiro, a mulher matou a mãe e o meio-irmão em casa antes de ir a uma escola local, onde atirou contra cinco estudantes e um professor, antes de tirar a própria vida. A OpenAI afirmou ter identificado e banido a usuária do chatbot oito meses antes da tragédia, em junho, após detectar conteúdos abusivos.
Altman declarou estar “profundamente arrependido” por não ter informado as autoridades canadenses sobre a conta banida naquele momento. A empresa justificou que não compartilhou dados porque a atividade não aparentava risco grave suficiente para acionar a polícia. O pedido de desculpas foi feito mais de dois meses após o ataque, para respeitar o período de luto da comunidade.
O primeiro-ministro da província da Colúmbia Britânica, David Eby, classificou a retratação como “necessária, e ainda assim grosseiramente insuficiente”. Ele criticou a OpenAI por não ter adotado medidas que pudessem impedir o massacre. A família de uma menina ferida no ataque entrou com uma ação judicial contra a empresa, alegando negligência e acusando a OpenAI de ter conhecimento prévio do plano da atiradora para cometer homicídio em massa.
A OpenAI afirma usar sistemas automatizados que analisam em tempo real conteúdos gerados pelos usuários, podendo restringir ou banir contas que violem suas políticas. Entre as violações estão exploração sexual, promoção de violência e incentivos ao suicídio. Em casos que apontem risco elevado, o sistema sinaliza o caso para uma revisão humana, que pode levar ao repasse de informações às autoridades.
Após a tragédia, as autoridades canadenses pressionaram a equipe de segurança da OpenAI, ameaçando ações regulatórias caso medidas não sejam implementadas. Em resposta, a empresa afirmou ter reforçado suas políticas de segurança e criado um canal de comunicação direto com a polícia local.
Na carta, Altman destacou o compromisso da OpenAI em colaborar com governos para evitar que incidentes similares voltem a ocorrer. Ele afirmou que o foco da empresa é trabalhar para que estes eventos não se repitam no futuro.
O episódio reacende o debate sobre a responsabilidade das plataformas de inteligência artificial e o papel das empresas na prevenção da violência e na cooperação com as autoridades. A investigação continua, e o caso pode influenciar mudanças regulatórias no uso de tecnologias de moderação e segurança digital.
—
Palavras relacionadas para SEO: OpenAI, Sam Altman, ChatGPT, ataque em Tumbler Ridge, tiroteio em massa, violência, segurança digital, moderação de conteúdo, inteligência artificial, responsabilização de empresas, ação judicial, Colúmbia Britânica, prevenção de crimes, denúncia automática.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
