Le pape Léon XIV appelle à "désarmer" l'IA pour éviter la domination humaine

"Désarmer" l'intelligence artificielle" pour "l'empêcher de dominer l'humain". Le pape Léon XIV a lancé un appel à encadrer et réguler les algorithmes et a dénoncé les "nouvelles formes d'esclavage" derrière leur essor fulgurant dans son premier document majeur, publié lundi 25 mai par le Vatican. Ce texte de 130 pages est une lettre adressée à l'ensemble des fidèles, fixant une position de référence sur des questions sociales, morales ou théologiques.

Dans l'encyclique Magnifica Humanitas (Humanité magnifique), le pape américain estime que l'IA "ne peut être considérée comme moralement neutre" et insiste sur le rôle de l'éducation pour apprendre à en maîtriser les risques et sur la nécessité d'un code éthique commun. "L'IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C'est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible", avance Léon XIV.

"Désarmer ne signifie pas renoncer à la technologie, mais l'empêcher de dominer l'humain", souligne le pontife, pour qui "la course à l'algorithme le plus performant et à la banque de données la plus vaste" n'a souvent pour objectif que de "consolider un avantage géopolitique ou commercial sur tous les autres".

"Pardon" pour le retard de l'Eglise à condamner l'esclavage

Le souverain pontife fustige aussi "les nouvelles formes d'esclavage" nées pour extraire les ressources nécessaires à l'utilisation de l'IA et appelle à "des solutions technologiques plus durables afin de réduire l'impact sur l'environnement". "Dans certaines régions du monde, des adolescents et des enfants travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, usés pour que le flux de calcul ne s'interrompe pas", dénonce-t-il.

L'évêque de Rome en a profité pour demander "sincèrement pardon" pour le retard avec lequel l'Eglise a condamné "le fléau de l'esclavage" au cours de l'Histoire. Il a aussi appelé à dépasser le concept de "guerre juste", "trop souvent invoqué pour justifier n'importe quelle guerre", et défendu notamment par l'administration de Donald Trump, et a regretté que "l'humanité (soit) en train de glisser vers une culture violente de la puissance".