Papst Leo XIV. warnt in erster Enzyklika vor KI-Gefahren

Papst Leo XIV. hat in seiner ersten Enzyklika vor den Gefahren künstlicher Intelligenz gewarnt.

KI könne Desinformation verbreiten, Konflikte verschärfen und die Welt auf einen Weg endloser Kriege führen, heißt es in dem Lehrschreiben Magnifica Humanitas. Der Text wurde im Beisein des Papstes im Vatikan der Öffentlichkeit präsentiert.

Der Papst warnt darin vor einer Entmenschlichung durch verfehlte Nutzung digitaler Technologien und fordert eine breitere gesellschaftliche Kontrolle von KI.

KI sei ein »wertvolles Hilfsmittel, das Vorsicht erfordert«, schreibt Papst Leo. Er geht in seinem Text sowohl auf das Tempo der Entwicklung ein als auch auf diejenigen, die die Kontrolle darüber haben. Diese liege nicht in der Hand der Staaten, sondern von »großen wirtschaftlichen und technologischen Akteuren«. Das berge die Gefahr der Intransparenz und erhöhe »das Risiko einer schiefen Entwicklung, die neue Abhängigkeiten, Ausgrenzungen, Manipulationen und Ungerechtigkeit erzeugt«.

Leo thematisiert auch die Auswirkungen von KI auf die Umwelt. »Aktuelle KI-Systeme erfordern große Mengen an Energie und Wasser, haben erhebliche Auswirkungen auf den Kohlenstoffdioxid-Ausstoß und verbrauchen Ressourcen in großem Umfang«, schreibt er und fordert die Entwicklung von nachhaltigeren technologischen Lösungen.

Die Menschheit befinde sich in einem »Epochenwandel«. »Die von Gott geschaffene großartige Menschheit steht heute vor einer entscheidenden Wahl: Entweder sie errichtet einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen«, schreibt der Papst im ersten Satz der Einleitung.

Umgang des Vatikans mit Sklaverei

In der Enzyklika kritisiert der Papst auch soziale Folgen technologischer Entwicklungen. Er sprach von neuen Formen der Sklaverei, etwa durch die Arbeit bei der Förderung von Rohstoffen, die für KI-Chips verwendet werden. In diesem Zusammenhang bat Leo XIV. um Vergebung für den Umgang der katholischen Kirche mit der Sklaverei. »Es ist unmöglich, keine tiefe Trauer zu empfinden, wenn man das unermessliche Leid und die Demütigungen betrachtet, die so viele Menschen erdulden mussten – im krassen Gegensatz zu ihrer unermesslichen Würde als Menschen, die vom Herrn unendlich geliebt werden«, schrieb Leo.

Frühere Päpste hatten sich zwar für die Beteiligung von Christen am transatlantischen Sklavenhandel entschuldigt, aber nie dafür, dass der Vatikan den europäischen Herrschern die Unterwerfung und Versklavung Ungläubiger explizit erlaubte.

Zusammenarbeit mit KI-Unternehmen

Mit seiner ersten Enzyklika setzt Papst Leo XIV. auch auf den Austausch mit Entwicklern aus dem Silicon Valley. An der Vorstellung des Lehrschreibens nahm unter anderem der Mitgründer des US-KI-Unternehmens Anthropic und Entwickler des Sprachmodells Claude, Christopher Olah, teil. Dass ein KI-Unternehmer gemeinsam mit dem Papst eine Enzyklika präsentiert, gilt im Vatikan als ungewöhnlich.

Die Zusammenarbeit zwischen dem Vatikan und KI-Firmen reicht bereits mehrere Jahre zurück. Schon unter Papst Franziskus suchte die katholische Kirche den Kontakt zu Technologieunternehmen wie OpenAI, DeepMind oder Anthropic. Ziel war es, ethische Leitlinien für den Umgang mit künstlicher Intelligenz zu entwickeln. Theologen, Philosophen und Programmierer diskutierten dabei unter anderem über Verantwortung, Fehlverhalten von Sprachmodellen und den Schutz menschlicher Würde.

Mit der Enzyklika knüpft Leo XIV. zugleich bewusst an die Tradition der katholischen Soziallehre an. Das Schreiben erscheint 135 Jahre nach Rerum novarum, der ersten großen Sozialenzyklika von Papst Leo XIII. aus dem Jahr 1891. Damals reagierte die Kirche auf die gesellschaftlichen Folgen der Industrialisierung.

Sozialenzykliken gelten als besonders gewichtige Lehrschreiben der katholischen Kirche. Päpste nutzen sie regelmäßig, um auf globale politische, wirtschaftliche oder gesellschaftliche Entwicklungen zu reagieren. In den vergangenen Jahrzehnten prägten solche Texte immer wieder internationale Debatten — etwa Franziskus’ Umwelt- und Sozialenzyklika Laudato si’ zum Klimawandel oder Fratelli tutti zu Ungleichheit, Migration und gesellschaftlicher Spaltung.