Papa Francisco advierte sobre la IA y la concentración de poder en su encíclica 'Magnifica humanitas'

“Pido a todos que detengan la construcción de la enésima Babel”. Según el Papa, la humanidad se encuentra ante una encrucijada frente a la revolución tecnológica: verse reducida a objeto de una transformación guiada por otros o seguir siendo el sujeto de ese cambio. En su primera encíclica, titulada Magnifica humanitas, el Pontífice utiliza una poderosa metáfora bíblica: la Torre de Babel frente a la reconstrucción de Jerusalén.

El corazón del razonamiento gira en torno a la inteligencia artificial, abordada sin prejuicios, pero también sin concesiones a sus muchas zonas grises. La tesis del Papa estadounidense es que no basta con aprobar nuevas normas: la cuestión es también democrática, porque obliga a preguntarse quién concentra hoy el poder tecnológico y con qué capacidad de influir en la vida colectiva. “Debemos preguntarnos con realismo quién detenta hoy ese poder y hacia qué fines lo orienta”, asegura en la misiva, que presentó el Papa directamente este lunes en una conferencia en la que participó Christopher Olah, cofundador de Anthropic, empresa estadounidense especializada en IA.

En su carta dirigida a los cristianos, León XIV entra de lleno en uno de los grandes debates de nuestro tiempo y reivindica la herencia de la doctrina social de la Iglesia, con la que su predecesor directo, León XIII, afrontó en 1891, con Rerum novarum, la primera revolución industrial. Hoy, sostiene Prevost, el cambio es distinto, pero no menos profundo: afecta directamente a la dignidad del trabajo y, más ampliamente, a la propia concepción de lo humano. Como ya hizo León XIII frente a la industrialización, el nuevo Papa sitúa el trabajo en el centro de su reflexión. La automatización y la inteligencia artificial no aparecen solo como una promesa de eficiencia, sino también como una posible fuente de desempleo, precarización y pérdida de dignidad. La pregunta de fondo vuelve a ser quién pagará el precio del progreso tecnológico.

La cuestión interpela a los católicos, pero no solo a ellos. Uno de los ejes más contundentes de la encíclica es la concentración del poder tecnológico en manos privadas. “En el pasado, eran principalmente los estados los que impulsaban y orientaban la innovación”, escribe el Papa. “Hoy, en cambio, los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos”, continúa. La crítica a las grandes tecnológicas es una de las líneas más duras del texto, porque, advierte, ese poder “no es neutral, porque toma el rostro de quien la concibe, la financia, la regula, la utiliza”.

La encíclica cuestiona, además, una de las ideologías de fondo de la revolución tecnológica: el transhumanismo, es decir, la idea de que la técnica pueda superar los límites biológicos y corregir la fragilidad humana. El Papa rechaza esa lógica con claridad: “el deseo de plenitud del ser humano corre el riesgo de desviarse hacia metas engañosas: la ilusión de una tecnología que promete liberarnos de toda fragilidad”. Para el Pontífice, la vulnerabilidad no es un fallo que deba eliminarse, sino una parte constitutiva de la condición humana.

Si en su primer discurso desde la logia central de San Pedro pidió una “paz desarmada y desarmante”, ahora León XIV retoma esa intuición y la proyecta sobre la inteligencia artificial. En el quinto capítulo de la encíclica advierte contra su aplicación militar y contra una lógica tecnológica puesta al servicio de la fuerza y de la progresiva deshumanización del conflicto. La inteligencia artificial deja así de ser solo una cuestión económica o social para convertirse también en un problema geopolítico.

La encíclica se divide en cinco capítulos, además de una introducción y una conclusión. En el primero, León XIV recorre la evolución de la doctrina social de la Iglesia, desde Rerum novarum hasta Francisco, para sostener que la inteligencia artificial no es un tema técnico aislado, sino una nueva gran cuestión social. En el segundo, aparece la parte más doctrinal: repasa conceptos como bien común, solidaridad, subsidiariedad, justicia social, dignidad humana y destino universal de los bienes como base para interpretar la revolución tecnológica. En el tercero, llega el corazón de las tesis papales, con una reflexión sobre el poder tecnológico, la gobernanza de la IA, el riesgo del dominio digital, el transhumanismo y la necesidad de preservar la centralidad del ser humano. En el cuarto, León XIV se detiene en el impacto de la IA sobre la democracia, la información y el imaginario colectivo, alertando sobre la manipulación y la erosión de la verdad como bien común, además de abordar el trabajo, las nuevas dependencias y el control social. En el quinto y último, amplía la mirada al escenario internacional, donde la IA aparece vinculada a la guerra, la lógica de la fuerza y la crisis del multilateralismo.

El mensaje final es claro: detener la construcción, no para desmontar el progreso, sino para decidir qué tipo de civilización queremos construir. No una nueva Babel dominada por unos pocos actores privados con un poder difícil de controlar democráticamente, sino un modelo en el que el ser humano siga ocupando el centro.