Pope Leo XIV's Encyclical 'Magnifica Humanitas' Addresses AI Challenges

«Magnifica humanitas» (Magnífica humanidad); «sobre la custodia de la persona humana frente a la inteligencia artificial». Es el nombre escogido por el papa León XIV para la primera Carta Encíclica de su pontificado, que versa sobre el desafío al que se enfrenta el ser humano en relación a la IA y los retos digitales de nuestro tiempo. La publicación coincide además con el 135º aniversario de Rerum novarum, de León XIII, considerada uno de los textos sociales fundamentales de la Iglesia católica.

Desde el Aula de Sínodo en el Vaticano, León XIV ha comparecido ante los medios de comunicación para dar cuenta sobre el primer documento escrito por su puño y letra acerca de un desafío particular. El Pontífice reflexiona en ella sobre la doctrina social de la Iglesia en este nueva era, donde llama a custodiar la "magnifica humanidad habitada por Dios" y a promover la dignidad en el trabajo, la justicia social, la paz y la verdad. En este documento, también condena la guerra y "la estrecha conexión entre los intereses económicos, los aparatos militares y las decisiones políticas". "No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable", asegura.

La Carta, dividida en cinco capítulos, una introducción, y una conclusión, parte de la idea de que la tecnología no es una "fuerza antagónica respecto a la persona" ni "un mal en sí misma", pero tampoco es "neutra", ya que "asume el rostro de quien la concibe, la financia, la regula y la utiliza". Robert Prevost insiste en la necesidad de que los conocimientos y las tecnologías no se concentren en las manos de unos pocos; y reflexiona acerca de la necesidad de un código ético relacionado con la Inteligencia Artificial.

León XIV recoge el testigo de su antecesor, el papa Francisco, y avisa sobre un "paradigma tecnocrático" en el que toda elección es dictada exclusivamente por "parámetros de eficiencia y beneficio". Sobre si es necesario un código ético que acompañe a esta nueva era de IA, asegura el Pontífice en su Encíclica que de poco sirve "una IA más moral si esa moral la deciden unos pocos", y hace referencia al impacto ambiental de estas nuevas tecnologías que dañan "la Creación".

El papa insiste en "desarmar la IA" para poder alejarla de la lógica de la competencia militar, económica y cognitiva, y realiza una crítica feroz del transhumanismo y del poshumanismo, posturas que interpretan el progreso como la superación de los límites de lo que conocemos como humano. Advierte que, crear este técnica y eliminar los límites humanos significa "hacer retroceder el corazón". "El ser humano no florece a pesar del límite, sino a menudo a través del límite", reza el texto.

"Concentrados en las manos de unos pocos"

El pontífice estadounidense subraya que las nuevas tecnologías —patentes, algoritmos, plataformas digitales, infraestructuras, datos— "quedan concentrados en las manos de unos pocos, sin adecuadas formas de intercambio y de acceso". Son empresas y plataformas que absorben esas competencias, datos y capacidad decisional quienes definen "condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas".

Para que la IA respete la dignidad humana, el papa reclama "responsabilidades" claras de quienes la crean y también "marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea", porque si no "el cambio será gobernado sólo por lógicas tecnocráticas". En el acto en el que se presenta la encíclica se ha invitado a Christopher Olah, cofundador de Anthropic, la empresa de IA a la que el presidente de los Estados Unidos, Donald Trump, retiró sus contratos públicos por oponerse al uso de la tecnología con fines militares.

En este sentido, considera el pontífice que "cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades", por lo que aboga por un "orden social justo en la era digital" que garantice "acceso igualitario a las oportunidades, proteja a los más pequeños y a los más frágiles, se oponga al odio y a la desinformación".

Otros temas de la encíclica

Además del impacto de la inteligencia artificial, 'Magnifica Humanitas' dedica un espacio central al trabajo y a la justicia social. León XIV alerta de que la transición digital no puede hacerse a costa de los trabajadores. En esa línea, advierte de que la automatización puede agravar la precariedad y "contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales de la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas".

La encíclica también pone el foco en la paz y en el rechazo de la guerra como herramienta política. El pontífice considera que el actual contexto internacional ha normalizado de nuevo el uso de la fuerza y cuestiona la teoría de la guerra justa, especialmente en un momento en que la tecnología está transformando las formas de la guerra. "No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable", afirma, y lamenta cómo "a la guerra visible se suman formas híbridas: ataques cibernéticos, manipulación de la información, campañas de influencia y automatización de decisiones estratégicas".

Otro de los grandes pilares del texto es la defensa de la dignidad humana y del bien común. El papa reafirma la protección de la vida "desde la concepción hasta su final natural", al tiempo que llama a salvaguardar los derechos de los pueblos, las minorías y los colectivos más vulnerables. La encíclica concluye con una apelación a construir una "civilización del amor", basada en la solidaridad, el cuidado mutuo y la búsqueda de una convivencia más justa frente a la cultura del poder, la exclusión y el enfrentamiento.