Bill Gates : Des armes biologiques dopées à l’IA « pires que le Covid »

Une menace « nettement pire que le Covid ». Bill Gates alerte sur les conséquences possibles d'un usage malveillant de l'intelligence artificielle en biologie. Dans un entretien avec Madhumita Murgia pour le podcast Tech Tonic du Financial Times, publié le 4 novembre, le cofondateur de Microsoft appelle les gouvernements à renforcer le contrôle des modèles et la détection des épidémies.

Il distingue deux risques immédiats : l'utilisation de l'IA pour mener des cyberattaques et son assistance potentielle à des projets d'armes biologiques. Selon lui, la concurrence entre laboratoires rend l'autorégulation insuffisante.

Points clés

Bill Gates estime qu'un usage malveillant de l'IA pourrait provoquer une catastrophe sanitaire dépassant celle du Covid.

Il demande des évaluations des modèles et des audits indépendants de leurs protections.

Des chercheurs ont déjà identifié des limites dans les outils de contrôle des commandes d'ADN de synthèse.

Il redoute également une hausse des cyberattaques, notamment celles utilisant les cryptomonnaies pour réclamer des rançons.

Bill Gates appelle à mieux anticiper les risques biologiques de l'IA

Interrogé sur les risques biologiques, Bill Gates évoque la possibilité d'un événement « nettement pire que le Covid ». Il décrit un scénario potentiel, sans évideemnt annoncer de menace identifiée ni de calendrier. Son inquiétude concerne les dégâts possibles et l'insuffisance des moyens de prévention.

Dans l'entretien au Financial Times, il préconise une surveillance coordonnée de l'air, des eaux usées et d'échantillons sanguins. L'objectif consiste à repérer une infection avant qu'elle ne touche une population importante.

Les développeurs ont déjà renforcé certaines protections. Anthropic a activé son niveau ASL-3 pour Claude Opus 4 en mai 2025, par précaution, afin de limiter notamment l'assistance à des activités liées aux armes biologiques. Cette décision ne signifiait pas que l'entreprise avait démontré une capacité à produire une telle arme.

Par ailleurs, une étude publiée dans Science en octobre 2025, cosignée par Eric Horvitz, directeur scientifique de Microsoft, a montré que des séquences redessinées par des outils d'IA pouvaient échapper aux logiciels de contrôle de fournisseurs d'ADN de synthèse. Les chercheurs ont développé des correctifs améliorant leur détection. Ces résultats concernent les filtres de sécurité, pas la démonstration d'une pandémie créée par IA.

Bill Gates insiste également sur la dépendance des hôpitaux, des banques et des réseaux électriques à des logiciels complexes. À ses yeux, les progrès des modèles facilitent la recherche de vulnérabilités susceptibles de perturber ces infrastructures.

Il vise particulièrement les modèles aux paramètres accessibles, dont des utilisateurs peuvent retirer les protections. Il estime que l'existence d'un modèle économique fondé sur les rançons en cryptomonnaies encourage les attaques. Cette observation porte sur leur utilisation criminelle comme moyen de paiement.

Face à ces risques, il réclame une intervention publique, surtout américaine. Il défend des audits indépendants, des critères d'évaluation des protections et un travail de sécurisation des logiciels existants. Le fondateur de Microsoft juge improbable qu'un laboratoire ralentisse seul durablement dans un marché concurrentiel.