Emmanuel Macron estime qu'il faut «interdire» l'IA où il y a un «risque» pour les enfants

Emmanuel Macron a estimé lundi qu'il fallait «interdire» l'intelligence artificielle là où elle présente un «risque» pour les enfants, leur «santé mentale, leur cerveau», tout comme il convient de veiller à son impact sur la «sécurité démocratique et nationale».

«S'il y a un risque pour les enfants avec certains usages de l'IA, alors il faut l'interdire», dit-il, à la veille de l'adoption d'une charte en la matière au Forum de Paris sur la Paix, dans une interview au quotidien Les Échos mise en ligne lundi soir. «Ce n'est pas parce que c'est de l'IA que ce doit être le Far West. Ce système n'est pas tenable, il faut le changer jusqu'à l'interdire s'il est mauvais», ajoute le chef de l'État, qui bataille aussi pour l'interdiction de certains réseaux sociaux aux moins de 15 ans.

Une «charte» pour «éclairer les débats législatifs nationaux et européens»

Un comité d'experts doit lui remettre mardi des recommandations sur la protection face à l'IA, un champ moins exploré à ce stade que celui de l'impact des réseaux sociaux. Dans la foulée, des laboratoires de recherche vont s'engager, au sein d'une «charte», sur un certain nombre de mesures comme des évaluations indépendantes des systèmes d'IA générative mis sur le marché ainsi que l'accès aux données de leurs modèles.

Cette charte, qui a «vocation à éclairer les débats législatifs nationaux et européens», réunira notamment les géants américains OpenAI et Anthropic, a précisé l'Élysée. Les entreprises vont accepter «le principe d'un pré-audit et d'une pré-certification avec une étude préalable des modèles avant de les mettre entre les mains des enfants», explique le chef de l'État. «Nous allons porter une régulation européenne et pousser pour que les Américains, les Canadiens, et les autres, fassent comme nous. On est en train de créer le début d'une régulation de l'IA de frontière», ajoute Emmanuel Macron. «L'idée, ce n'est pas de refuser ces innovations mais de réussir à créer un cadre qui prend en compte les dangers, qui sont de trois ordres : nos enfants, la sécurité démocratique et les grands enjeux de sécurité nationale», souligne-t-il.

«Le constat est partagé. Il faut agir ensemble»,

Emmanuel Macron a également réuni une cinquantaine de chefs d'État et de gouvernement, représentants d'organisations internationales, entreprises, chercheurs et laboratoires sur les «risques» de l'IA pour la sécurité collective. «Le constat est partagé. Il faut agir ensemble», a-t-il conclu sur X. Les participants se sont engagés sur «trois priorités», «mieux évaluer de façon indépendante et publique les risques des modèles les plus avancés, mieux partager les alertes en cas d'incident grave et responsabiliser les acteurs qui développent des modèles», a-t-il détaillé.

Les Premiers ministres britannique Andy Burnham, canadien Mark Carney, norvégien Jonas Gahr Støre, néerlandais Rob Jetten et la Japonaise Sanae Takaichi ont participé à la visio ainsi que le président finlandais Alexander Stubb, le secrétaire d'État au Trésor américain Scott Bessent et les PDG d'OpenAI, Sam Altman, Anthropic Dadio Amodei, Mistral Arthur Mensch et le président de Microsoft Brad Smith.