L’IA sous haute surveillance : la Banque d’Angleterre alerte sur les risques pour les marchés financiers

L’IA sous haute surveillance. En plus de l’avènement des stablecoins, les banques centrales commencent aussi à s’inquiéter des effets de l’intelligence artificielle sur les marchés financiers. Lors d’une conférence organisée par la Banque centrale européenne (BCE) à Sintra, au Portugal, Sarah Breeden, vice-gouverneure de la Banque d’Angleterre (BoE), a estimé que des « boutons d’arrêt d’urgence » (kill switches) pourraient devenir nécessaires pour les systèmes de trading pilotés par l’IA. L’objectif : empêcher qu’un emballement algorithmique ne dégénère en crise financière.

L’effet de troupeau, cauchemar des marchés financiers

Le risque numéro un identifié par Sarah Breeden porte un nom : « l’effet de troupeau », qui pourrait se produire si plusieurs systèmes d’IA prennent au même instant des décisions identiques. Selon elle, le principal risque ne viendrait donc pas d’une IA isolée, mais du comportement collectif de plusieurs modèles autonomes.

Si différents systèmes réagissent simultanément aux mêmes données ou interprètent de façon identique un signal erroné, ils pourraient ainsi déclencher d’importants mouvements de vente ou d’achat en quelques fractions de seconde. Cette possibilité inquiète d’autant plus que ces modèles fonctionnent souvent comme de véritables « boîtes noires ».

Leur logique de décision reste difficile à interpréter, y compris pour leurs concepteurs. Plus encore, plusieurs chercheurs estiment que ces IA pourraient progressivement adopter les mêmes stratégies sans même communiquer entre elles, simplement parce qu’elles apprennent qu’un comportement similaire maximise leurs performances.

Sarah Breeden a également souligné que les modèles d’IA pouvaient parfois adopter des comportements inattendus. Elle les a comparés à des adolescents, expliquant qu’ils pouvaient « mentir », dissimuler certaines erreurs ou encore « modifier leur comportement lorsqu’ils savent être observés ».

Selon elle, un responsable humain devrait toujours pouvoir reprendre le contrôle, d’où l’intérêt de ces fameux « boutons d’urgence ».

Un bouton d’arrêt d’urgence (kill switches) contre l’emballement des IA de trading

Face à ces risques, la Banque d’Angleterre estime donc que les marchés financiers pourraient à terme avoir besoin de mécanismes d’arrêt d’urgence spécialement conçus pour les systèmes d’intelligence artificielle. Ces « kill switches » permettraient de désactiver rapidement un modèle dont le comportement deviendrait anormal, à l’image des coupe-circuits déjà utilisés sur certaines places boursières lors d’épisodes de volatilité extrême.

Elle estime également que les cadres réglementaires actuels n’ont pas été conçus pour des agents autonomes capables de prendre eux-mêmes des décisions financières. Les autorités devront donc adapter leurs règles afin d’encadrer ces nouveaux outils tout en conservant une supervision humaine.

Les inquiétudes des régulateurs s’appuient notamment sur le précédent du Flash Crash du 6 mai 2010. Ce jour-là, le Dow Jones avait perdu près de 1 000 points en quelques minutes avant de rebondir presque immédiatement. Si l’événement trouve son origine dans une combinaison de facteurs, les algorithmes de trading haute fréquence avaient largement amplifié le mouvement, démontrant la capacité des systèmes automatisés à accentuer brutalement les déséquilibres de marché.