Un «cyberincident sans précédent» impliquant OpenAI et Hugging Face

Un «cyberincident sans précédent», vraiment? Le géant de l’intelligence artificielle OpenAI a annoncé cette semaine que certains de ses modèles, dont l’un encore secret, avaient piraté de leur propre initiative Hugging Face, un pilier de l’IA fondé en France. Dans une longue publication sur son blog, la firme a expliqué avoir soumis ses modèles à une évaluation extrêmement exigeante, ce qui les a poussés à «s’échapper» du cadre d’OpenAI, et à tricher en s’introduisant dans les systèmes d’une plateforme spécialisée dans les tests d’IA.

En réalité, ce phénomène a un nom: le «désalignement». Celui-ci se produit lorsqu’un modèle poursuit des objectifs contraires aux valeurs humaines, ou ne correspondant pas réellement à ce que l’humain lui a demandé. Prenons l’exemple d’une IA à qui l’on exige d’«empêcher toute intrusion» dans le système informatique d’une entreprise. On attend donc d’elle qu’elle sécurise les accès et détecte les éventuels pirates. Mais une IA non alignée, prenant l’ordre à…