A Anthropic restringiu o acesso a dois de seus modelos

A Anthropic restringiu o acesso a dois de seus modelos avançados de inteligência artificial (IA) nesta sexta-feira (12), após receber uma ordem do governo dos Estados Unidos por motivos de segurança nacional. A medida, que atinge cidadãos estrangeiros dentro e fora do país, faz parte de uma estratégia do Departamento de Defesa para controlar o uso da tecnologia.

A empresa, responsável pela família de modelos Claude, informou que os bloqueios valem para os modelos Claude Fable 5, lançado na última terça-feira, e Claude Mythos 5. O acesso está suspenso temporariamente para todos os clientes, enquanto a Anthropic trabalha para garantir a conformidade com as determinações governamentais.

O bloqueio ocorre em meio a uma escalada das tensões entre a Anthropic e a administração do ex-presidente Donald Trump, que no início deste ano viu frustradas as negociações para o uso da tecnologia pela área militar e serviços de inteligência dos EUA.

Os modelos atingidos são as versões mais recentes da IA Claude. O Fable 5 está disponível publicamente, enquanto o Mythos 5 é restrito a organizações autorizadas pela empresa. A Anthropic mantém o Mythos 5 afastado do público por conter capacidades avançadas para identificar vulnerabilidades de software, algumas desconhecidas há décadas.

Essas funcionalidades são usadas atualmente por autoridades americanas e empresas selecionadas para corrigir falhas de segurança. Contudo, há receios de que tais modelos possam ser empregados como armas cibernéticas sofisticadas em mãos inadequadas.

Especialistas apontam que os Mythos podem acelerar ataques cibernéticos complexos, especialmente em setores como o bancário, que dependem de sistemas tecnológicos antigos e interconectados. Testes internos da Anthropic detectaram algumas vulnerabilidades menores já conhecidas, mas a empresa defende que a retirada dos modelos não é justificada.

Segundo a Anthropic, a aplicação ampla dessa regra poderia impedir o lançamento de novos modelos por todos os desenvolvedores de IA avançada no mercado. A tensão entre a empresa e o governo aumentou após a recusa da Anthropic em permitir o uso da IA para vigilância doméstica e sistemas de armas autônomas.

O modelo Claude é o único IA de ponta operando nas redes do Departamento de Defesa que lidam com informações confidenciais e é amplamente utilizado pelo Pentágono. Em resposta à resistência da Anthropic, o Pentágono incluiu a empresa em uma lista de riscos para as cadeias de fornecimento, o que pode restringir seus contratos federais ainda este ano.

No início de junho, o presidente Trump assinou uma ordem executiva que exige a avaliação prévia dos sistemas de IA mais avançados quanto a riscos à segurança nacional antes de sua liberação pública. Anteriormente, os controles americanos focavam em chips e hardware, não em restrições ao acesso estrangeiro aos modelos de IA.

A diretora de informação do Pentágono, Kirsten Davies, afirmou em rede social que o Departamento prioriza a segurança nacional, afirmando que “algumas coisas são mais importantes do que ciclos de receita, caça-cliques e avaliações pré-IPO”.

A Anthropic apresentou em maio um pedido confidencial para abertura de capital nos EUA, posicionando-se à frente da rival OpenAI. O CEO da empresa, Dario Amodei, manifestou apoio ao bloqueio de softwares de IA potencialmente perigosos, mas ressaltou que isso deve ocorrer com critérios claros, transparência e base técnica, o que, segundo ele, ainda não acontece.

O jornal The New York Times classificou a ordem do governo como “incomumente ampla”, destacando que ela pode impedir o acesso dos modelos por funcionários da Anthropic em países aliados, como Canadá e Reino Unido.

A empresa conta com integrantes-chave nascidos fora dos EUA, incluindo o cofundador Chris Olah e o pesquisador Andrej Karpathy. Ainda não se sabe se esses funcionários são cidadãos americanos ou se terão seu acesso aos modelos limitado pela nova ordem.

O caso revela a intensificação do controle governamental sobre tecnologias de IA avançada, em meio a preocupações de segurança nacional e disputas geopolíticas sobre o desenvolvimento e uso dessas ferramentas.

—

Palavras-chave relacionadas: Anthropic, inteligência artificial, Claude, bloqueio, segurança nacional, Departamento de Defesa dos EUA, modelos de IA, Claude Fable 5, Claude Mythos 5, cibersegurança, Pentágono, Donald Trump, restrições, vigilância, armas autônomas, abertura de capital, OpenAI.

Fonte: g1.globo.com