A FoloToy suspendeu a venda do ursinho de pelúcia Kumma, equipado com inteligência artificial, após o brinquedo fornecer conselhos sexuais e informações sobre temas perigosos. A decisão foi tomada em março de 2024, após denúncias de pesquisadores que testaram o dispositivo.
O anúncio da suspensão ocorreu logo depois que o Public Interest Research Group (PIRG) divulgou um estudo apontando que o Kumma ofereceu dicas como “ser um bom beijador” e explicou fetiches durante testes. Também forneceu instruções detalhadas para acender fósforos, apesar de alertar previamente que eles são para adultos.
De acordo com os pesquisadores, o ursinho da FoloToy foi o mais propenso entre três brinquedos infantis testados a responder perguntas relacionadas a objetos perigosos, como facas, comprimidos e fósforos. O estudo levantou preocupações sobre a segurança do uso da inteligência artificial em brinquedos voltados para crianças.
Diante da repercussão, o diretor de marketing da FoloToy, Hugo Wu, declarou que a empresa suspendeu temporariamente as vendas do Kumma e iniciou uma auditoria interna para avaliar e corrigir os problemas apontados no sistema de inteligência artificial. Ele agradeceu aos pesquisadores por identificarem os riscos, enfatizando que isso contribui para melhorias no produto.
No momento, o site da empresa não disponibiliza o produto para compra. Ao tentar adquirir o ursinho, os usuários encontram a mensagem “Nenhum produto encontrado”, indicando a retirada do brinquedo do mercado.
Segundo informações divulgadas pela FoloToy, o Kumma é alimentado pelo GPT-4o, tecnologia desenvolvida pela OpenAI, mesma criadora do ChatGPT. A empresa afirmava que o brinquedo estimula a curiosidade das crianças por meio de atividades e diálogos, além de oferecer controles para personalizar e monitorar a experiência.
A suspensão do Kumma destaca desafios no uso de inteligências artificiais em produtos infantis, ressaltando a necessidade de medidas rigorosas para evitar o acesso a conteúdos inadequados. A FoloToy segue avaliando o funcionamento do sistema para garantir maior segurança antes de retomar as vendas.
—
Palavras-chave: FoloToy, Kumma, urso de pelúcia, inteligência artificial, brinquedos infantis, GPT-4o, OpenAI, conselhos sexuais, segurança de brinquedos, Public Interest Research Group, PIRG, suspensão de venda.
Fonte: g1.globo.com
Imagem: s2-g1.glbimg.com
Fonte: g1.globo.com
