L'Union européenne renforce sa protection face à l'intelligence artificielle avec l'AI Act

L'Union européenne renforce sa protection face à l'intelligence artificielle. À partir du dimanche 2 août, la Commission européenne met en œuvre de nouvelles réglementations avec une loi nommée "AI Act", règlement européen sur l'intelligence artificielle, adoptée le 1er août 2024. Ce texte constitue l'un des cadres réglementaires les plus puissants au monde en matière d'IA. Il interdit notamment certaines pratiques, comme l'utilisation de l'intelligence artificielle pour tromper ou manipuler les personnes, ou pour exploiter les vulnérabilités liées à l'âge ou aux situations de handicap. De nouvelles obligations entrent également en application dimanche, reposant sur des obligations de transparence.

Selon la Commission européenne, ces nouvelles obligations de transparence doivent aider les utilisateurs à reconnaître lorsqu'ils interagissent avec une intelligence artificielle ou lorsqu'ils sont exposés à des contenus générés par cette technologie. L'objectif de l'Union européenne est de permettre au public de mieux s'informer et de mieux protéger contre les risques de désinformation ou de tromperie.

Ces règles s'appliquent aux "deepfakes" (montages hyperréalistes susceptibles de tromper le public), les textes produits par une intelligence artificielle pour informer sur des sujets d'actualité lorsqu'ils n'ont pas été relus ou validés par un humain, ainsi que certains outils d'analyses des émotions. Ces contenus devront être signalés par des marquages grâce à des icônes créées par l'UE. Trois sont à disposition pour les entreprises, que sont :

Une icône de base, qui indique que l'IA est impliquée d'une manière ou d'une autre dans la création d'un contenu falsifié,

Une icône mentionnant qu'un contenu est entièrement généré par l'IA, sans intervention humaine dans sa création autre que le prompt (une instruction, une question ou une suite de consignes textuelles transmises à une IA pour obtenir une action ou un contenu précis),

Une icône mentionnant qu'un contenu est partiellement modifié par l'IA.

La Commission européenne précise cependant que ces icônes ne constituent pas, à elles seules, une preuve de conformité légale.

Les modèles d'IA déjà sur le marché disposent toutefois d'un délai, jusqu'au 2 décembre 2026, pour s'y conformer. Les utilisateurs devront être également informés lorsqu'ils interagissent avec des systèmes d'intelligence artificielle, comme un chatbot.

Bruxelles dispose de tout un éventail de sanctions pour punir les entreprises contrevenantes. Les amendes les plus élevées sont prévues en cas d'activités prohibées : jusqu'à 7% du chiffre d'affaires annuel mondial, ou 35 millions d'euros (le montant le plus élevé sera retenu). Les autres infractions seront punissables d'une amende allant jusqu'à 3% du chiffre d'affaires ou 15 millions d'euros. Enfin, les entreprises seront mises à l'amende en cas d'entraves aux investigations de la Commission.

Le Bureau de l'IA, une structure dédiée au sein de la Commission européenne, pourra désormais procéder à des évaluations et des vérifications des grands modèles d'IA, pour s'assurer qu'ils respectent ces règles, ce qui obligera les fournisseurs à lui accorder un accès, y compris dans certains cas avant leur mise sur leur marché.

Les équipes de Bruxelles pourront conduire des enquêtes et procéder à des inspections, et si des infractions sont constatées, exiger que les sociétés prennent des mesures pour y remédier. "Nous aurons le pouvoir de procéder à des évaluations en profondeur, et nous l'utiliserons autant que nécessaire", a assuré vendredi 31 juillet un responsable de la Commission, auprès de l'AFP, qui a requis l'anonymat. La Commission pourra, dans ce cadre, imposer des restrictions au déploiement d'un nouveau modèle. Les régulateurs nationaux sont chargés d'appliquer les règles sur les modèles plus petits.