Ethereum : Vitalik Buterin soutient le filtrage de Kimi 3.1 et redoute une IA sous KYC

Limiter l’IA, pas les utilisateurs. Vitalik Buterin a approuvé la décision de Moonshot AI d’exclure les données relatives à la cybersécurité offensif des données d’entraînement de Kimi 3.1. Le cofondateur d’Ethereum y voit la bonne manière d’éviter un accès à l’IA qui serait conditionné à une pièce d’identité.

Les points clés de cet article :

Moonshot AI a retiré les données liées à la cybersécurité du corpus d’entraînement de Kimi 3.1 Pro.

Le modèle filtré résout 81,0% des tâches du test interne, contre 90,5% sans filtre.

Les poids ouverts sont prévus pour être publiés au plus tard le 4 novembre 2026.

Vitalik Buterin anticipe des modèles verrouillés et un accès sous KYC en cas de dérive.

Pourquoi filtrer l’IA plutôt que les utilisateurs ?

Moonshot AI est un laboratoire d’IA basé à Pékin, dont le nouveau modèle Kimi K3.1 Pro doit être publié en poids ouverts d’ici le 4 novembre. Chacun pourra alors le télécharger et le faire tourner sur son propre serveur. En effet, avec plus de 3 trillions de paramètres, ce modèle nécessite une vrai infrastructure pour opérer.

Le laboratoire a expliqué avoir supprimé les données liées à la cybersécurité de son corpus d’entraînement et de ses environnements d’apprentissage par renforcement, tandis que les tâches générales de programmation ont été conservées.

La méthode change tout pour un modèle ouvert, car une fois les poids ouverts publiés, le contrôle après entraînement est plus difficile. Retirer le savoir-faire offensif en amont, dès les données, déplace la limite de capacité au stade de l’entraînement.

Vitalik Buterin a défendu son analyse sur X dimanche 25 octobre, en écrivant que discriminer les cas d’usage est bien moins nocif que discriminer les utilisateurs.

« Si cette première vague tourne mal, nous aurons des modèles verrouillés, le KYC partout et une surveillance intrusive. »

Vitalik Buterin, cofondateur d’Ethereum

Et si la première vague tourne mal ?

Le créateur d’Ethereum ne présente pas ce filtrage comme une solution définitive, il décrit une course contre la montre. Les attaques alimentées par l’IA continueront de se multiplier. La semaine dernière en est un bon exemple, pas un jour ne s’est passé sans que l’on ne découvre une faille majeure.

D’ici là, les développeurs disposent d’un sursis, le temps de renforcer leurs systèmes, d’auditer le code ancien et de valider formellement les nouveaux logiciels.

La menace est déjà là : Binance Research a mesuré cette année que l’IA exploite des smart contracts environ deux fois mieux qu’elle n’identifie les failles, un déséquilibre détaillé dans notre précédent dossier sur la menace IA.

Le prix du filtrage est chiffré. Moonshot affirme que son modèle filtré a résolu 81,0% des tâches de son test interne d’exploitation, quand la version non filtrée en réglait 90,5%. En effet, le laboratoire a accepté ce décrochage pour réduire la capacité offensive du modèle.

L’écart ne protège personne bien longtemps. D’après les chiffres du même laboratoire, le concurrent ouvert DeepSeek V4.1-Flash atteint déjà 85,7% sur la même référence.

Et Vitalik Buterin n’attend pas des autres laboratoires qu’ils renoncent à ces capacités : interrogé sur ce point, il a répondu qu’ils les développeront. Le risque, lui, est bien documenté dans les précédents piratages par agent IA.