Anthropic desativa modelos de IA após ordem do governo dos EUA

Segundo a companhia, a ordem impede que qualquer cidadão estrangeiro tenha acesso aos sistemas, independentemente de estar dentro ou fora dos EUA. A restrição também se aplica a funcionários estrangeiros da própria Anthropic.

Diante da abrangência da medida, a empresa decidiu desativar imediatamente os dois modelos para todos os usuários.

Em comunicado, afirmou que "o efeito dessa ordem é que precisamos desativar imediatamente o Fable 5 e o Mythos 5 para todos os nossos usuários, a fim de garantir o cumprimento" da determinação. Os demais sistemas da companhia seguem disponíveis normalmente.

A decisão está entre as medidas mais amplas já adotadas pelo governo americano para restringir o acesso a ferramentas avançadas de inteligência artificial.

Ela foi anunciada apenas alguns dias após o lançamento público do Fable 5 e cerca de dez dias depois de o presidente Donald Trump assinar uma ordem executiva que cria mecanismos para avaliar possíveis riscos à segurança nacional antes da divulgação de novos sistemas de IA.

Embora tenha cumprido a determinação, a Anthropic questionou a forma como o processo foi conduzido. Segundo a empresa, a diretiva foi recebida na tarde de sexta-feira e não apresentava informações detalhadas sobre quais seriam os riscos identificados pelas autoridades.

A companhia afirmou acreditar que a preocupação do governo esteja relacionada a uma possível forma de contornar algumas das barreiras de segurança do Fable 5.

Após analisar a demonstração apresentada pelas autoridades, a empresa concluiu que a técnica apontada permitia identificar apenas um número limitado de falhas já conhecidas e que capacidades semelhantes podem ser encontradas em outros sistemas disponíveis no mercado.

A Anthropic também informou que submeteu o Fable 5 a uma série de testes antes do lançamento, em parceria com órgãos governamentais, organizações independentes e equipes internas. De acordo com a empresa, os resultados indicaram que as proteções adotadas no modelo são mais eficazes do que as utilizadas em versões anteriores.

No comunicado, a companhia afirmou discordar da retirada de um produto amplamente disponibilizado ao público com base em um método específico de contornar suas proteções.

A empresa classificou o episódio como um "mal-entendido" e disse estar trabalhando para restabelecer o acesso aos dois modelos "o mais breve possível".