Papst Leo XIV. hat am Montag in seiner ersten Enzyklika „Magnifica Humanitas“ vor dem Einsatz Künstlicher Intelligenz in Kriegen gewarnt und strenge globale Regeln für die Technologie gefordert.

Das päpstliche Lehrschreiben mit über 100 Seiten Umfang richtet sich an die weltweit rund 1,4 Milliarden Katholiken und soll eine moralische Richtschnur für den Umgang mit KI bieten.

In dem Dokument warnt der Pontifex davor, dass KI-gestützte autonome Waffensysteme den Krieg im 21. Jahrhundert wieder „machbarer“ gemacht hätten. „Kein Algorithmus kann einen Krieg moralisch akzeptabel machen“, schreibt er.

Autonome Waffen und Moral

Der Papst betont, dass Entscheidungen über Leben und Tod niemals Maschinen überlassen werden dürften. Wörtlich heißt es: „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.“

Leo XIV. fordert, dass Künstliche Intelligenz grundsätzlich an menschlichen Werten und Moralvorstellungen ausgerichtet sein müsse. Zugleich warnt er, dass selbst eine solche Ausrichtung nutzlos sei, „wenn diese Moral von einigen wenigen bestimmt wird“.

Die Enzyklika kritisiert eine „neue Form des Kolonialismus“, bei der wenige global agierende Unternehmen die wesentlichen Elemente der KI kontrollierten. Kleine, sehr einflussreiche Gruppen könnten „Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen“, zitiert das Dokument.

Macht der Tech-Konzerne

Der Papst verlangt klare Kriterien und wirksame Kontrollen für den Einsatz von KI, insbesondere wenn öffentliche Güter und Grundrechte betroffen seien. Es sei „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“.

Zudem müsse das Eigentum an Nutzerdaten geregelt werden, um die Rechte der Menschen zu schützen und eine unkontrollierte Machtkonzentration zu verhindern.

Forderungen nach Regulierung

Ohne den Namen zu nennen, distanziert sich Leo XIV. von der Politik des ehemaligen US-Präsidenten Donald Trump und kritisiert, dass die Lehre vom „gerechten Krieg“ oft zur Rechtfertigung jedweder Konflikte missbraucht worden sei. Diese Theorie sei heute überholt.

Der Papst erinnert daran, dass bereits im Iran-Krieg religiöse Argumente zur Legitimation von Gewalt herangezogen wurden, und bekräftigt, dass KI-gestützte Tötungssysteme dieser Ethik endgültig den Boden entzögen.

Die erste Enzyklika eines Papstes gilt traditionell als programmatische Grundsatzerklärung für sein Pontifikat. Mit „Magnifica Humanitas“ positioniert sich das katholische Kirchenoberhaupt als moralische Instanz im globalen Streit um die Zukunft der Künstlichen Intelligenz.

Beobachter werten das Schreiben als die bislang massivste Intervention des Vatikans in die Debatte über KI, Kriegsführung, Arbeit und Gesellschaft.