Ce ne doit pas « être le Far West »… Macron veut protéger les enfants de l’IA

Les effets des nouvelles technologies sur les plus jeunes continuent d'inquiéter le locataire de l'Élysée. Emmanuel Macron a ainsi estimé lundi qu'il fallait « interdire » l'intelligence artificielle là où elle présente un « risque » pour les enfants, leur « santé mentale, leur cerveau », tout comme il convient de veiller à son impact sur la « sécurité démocratique et nationale ».

« S'il y a un risque pour les enfants avec certains usages de l'IA, alors il faut l'interdire », a déclaré le président, à la veille de l'adoption d'une charte en la matière au Forum de Paris sur la Paix, dans une interview au quotidien Les Echos mise en ligne lundi soir.

Comme pour les réseaux sociaux, Macron prône la régulation

« Ce n'est pas parce que c'est de l'IA que ce doit être le Far West. Ce système n'est pas tenable, il faut le changer jusqu'à l'interdire s'il est mauvais », ajoute le chef de l'État, qui bataille aussi pour l'interdiction de certains réseaux sociaux aux moins de 15 ans. Un comité d'experts doit lui remettre ce mardi des recommandations sur la protection face à l'IA, un champ moins exploré à ce stade que celui de l'impact des réseaux sociaux.

Dans la foulée, des laboratoires de recherche vont s'engager, au sein d'une « charte », sur un certain nombre de mesures comme des évaluations indépendantes des systèmes d'IA générative mis sur le marché ainsi que l'accès aux données de leurs modèles. Cette charte, qui a « vocation à éclairer les débats législatifs nationaux et européens », réunira notamment les géants américains OpenAI et Anthropic, a précisé l'Élysée.

Les entreprises vont accepter « le principe d'un pré-audit et d'une précertification avec une étude préalable des modèles avant de les mettre entre les mains des enfants », explique le chef de l'État. « Nous allons porter une régulation européenne et pousser pour que les Américains, les Canadiens, et les autres, fassent comme nous. On est en train de créer le début d'une régulation de l'IA de frontière », ajoute-t-il.

Un début de prise de conscience internationale

Emmanuel Macron a également réuni une cinquantaine de chefs d'État et de gouvernement, représentants d'organisations internationales, entreprises, chercheurs et laboratoires sur les « risques » de l'IA pour la sécurité collective. Les participants se sont engagés sur « trois priorités », « mieux évaluer de façon indépendante et publique les risques des modèles les plus avancés, mieux partager les alertes en cas d'incident grave et responsabiliser les acteurs qui développent des modèles », a-t-il détaillé sur X.

Nos articles sur l'IA

Les Premiers ministres britannique Andy Burnham, canadien Mark Carney, norvégien Jonas Gahr Støre, néerlandais Rob Jetten et la Japonaise Sanae Takaichi ont participé à la visio ainsi que le président finlandais Alexander Stubb, le secrétaire d'État au Trésor américain Scott Bessent et les PDG d'OpenAI, Sam Altman, Anthropic Dario Amodei, Mistral Arthur Mensch et le président de Microsoft Brad Smith.