A OpenAI anunciou nesta quinta-feira (26) a suspensão

A OpenAI anunciou nesta quinta-feira (26) a suspensão por tempo indeterminado do lançamento de um chatbot com conteúdo sexual explícito, chamado internamente de “modo Citron”. A decisão foi tomada devido a preocupações sobre riscos sociais e impactos na imagem da empresa.

O projeto, divulgado inicialmente pelo Financial Times, enfrentou críticas internas e externas. Funcionários questionaram se o chatbot estava alinhado com a missão da OpenAI de garantir benefícios reais à sociedade. Investidores também manifestaram receios quanto a possíveis danos à reputação da companhia, avaliando que os riscos poderiam superar ganhos comerciais.

No ano passado, a OpenAI havia sinalizado uma redução nas restrições do ChatGPT, permitindo conteúdo erótico para usuários adultos verificados. Essa mudança foi apresentada como uma forma de “tratar usuários adultos como adultos”. O “modo Citron” fazia parte dessa iniciativa, buscando oferecer uma experiência mais ampla dentro da plataforma.

A suspensão ocorre em um momento em que a OpenAI revisa seus projetos considerados secundários para manter sua liderança num mercado de inteligência artificial cada vez mais competitivo. Na mesma semana, a empresa também encerrou o Sora, seu aplicativo de criação de vídeos, que recebia críticas por estimular a circulação de conteúdo produzido por IA considerado de baixo valor.

O contexto mais amplo envolve um cenário sensível para o setor de tecnologia. Empresas como Meta enfrentam processos judiciais e regulamentações mais rigorosas relacionadas ao impacto de seus serviços sobre menores de idade. Esse ambiente tem influenciado decisões estratégicas na área de IA e conteúdo digital.

A OpenAI já enfrentou críticas globais recentemente. No ano passado, o chatbot Grok, da empresa de Elon Musk, foi usado para criar imagens falsas de cunho sexual envolvendo pessoas reais, incluindo menores de idade. Esse episódio aumentou os debates sobre a responsabilidade jurídica e ética das plataformas que atuam com inteligência artificial.

Com essas medidas, a OpenAI busca equilibrar o avanço tecnológico e a segurança social, ajustando suas ações aos desafios que envolvem o uso e a disseminação de conteúdo gerado por IA. A suspensão do “modo Citron” reflete a cautela da empresa diante dos riscos e da necessidade de alinhamento com seus valores institucionais.

Palavras-chave: OpenAI, chatbot, conteúdo erótico, inteligência artificial, ChatGPT, modo Citron, segurança digital, ética em IA, regulamentação tecnológica, conteúdos explícitos, Grok, Elon Musk, Sora, mercado de IA.

Fonte: g1.globo.com