Anthropic forced to disconnect its most powerful AI at Washington's request

Anthropic contraint de débrancher son IA la plus puissante sur demande de Washington. La start-up américaine d’intelligence artificielle a annoncé vendredi suspendre l’accès à ses deux modèles Fable 5 et Mythos 5, pour se conformer à une directive du gouvernement américain invoquant la «sécurité nationale», trois jours seulement après leur lancement commercial.

Washington a ordonné, au titre du contrôle des exportations, de couper l’accès à ces modèles pour «tout ressortissant étranger, à l’intérieur ou à l’extérieur des États-Unis», y compris «les employés étrangers» d’Anthropic, selon le communiqué de l’entreprise. Faute de pouvoir trier ses utilisateurs selon leur nationalité,

«Un malentendu»

L’entreprise rapporte avoir reçu une directive du gouvernement à 17h21 (23h21 à Paris), «qui ne détaillait pas spécifiquement ses motifs de préoccupations pour la sécurité nationale». Selon le média américain Axios, la directive émane du secrétaire au Commerce Howard Lutnick. Il aurait pris cette décision après avoir appris qu’une société utilisatrice des modèles avait réussi à contourner les garde-fous prévenant théoriquement un usage malveillant. Sollicité par l’AFP, le ministère du Commerce n’a pas donné suite dans l’immédiat.

Dans son communiqué, Anthropic précise qu’«il semblerait que le gouvernement ait découvert une méthode permettant de contourner, ou de “jailbreaker”, Fable 5», c’est-à-dire de débrider le modèle, et ainsi d’accéder à ses puissantes capacités de cybersécurité. «Nous contestons que la découverte d’un potentiel contournement» des mesures de sécurité autour de Fable 5 «justifie le rappel d’un modèle commercial déployé auprès de centaines de millions de personnes», écrit Anthropic, qui veut voir dans l’affaire «un malentendu». «Si ce standard était appliqué à l’ensemble du secteur, nous pensons qu’il mettrait essentiellement à l’arrêt tous les nouveaux déploiements de modèles» d’IA de pointe, ajoute l’entreprise, qui affirme travailler à rétablir l’accès «dès que possible».

Modèle bridé

Lancé mardi, Fable 5 est le premier modèle de la classe Mythos, la gamme la plus avancée d’Anthropic que l’entreprise avait dévoilée en avril sans l’ouvrir au public pour des raisons de sécurité. Fable 5 est bridé dans des domaines sensibles comme la cybersécurité et les risques d’attaque biologique et chimique. Sa version non bridée, Mythos 5, réservée à quelque 200 entreprises, organisations et agences étatiques, est présentée comme capable de détecter et exploiter des failles de sécurité à une vitesse et avec une acuité inédites.

La question de la sécurité, dont Anthropic a fait un de ses principaux arguments commerciaux, a déjà entraîné la start-up de San Francisco dans un bras de fer avec l’administration Trump, qui a conduit le Pentagone à rompre ses contrats avec l’entreprise. Cette suspension intervient alors qu’Anthropic, comme son rival OpenAI, a annoncé en juin avoir déposé son dossier d’introduction en Bourse.