Papst Leo XIV warnt vor KI-Risiken: 'Magnifica Humanitas' fordert strenge Regeln

Die versteckten Kosten der digitalen Welt

Der Text kritisiert die Macht globaler Technologiekonzerne scharf. 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen', heißt es darin. Der Papst betont: 'Wir können KI nicht als moralisch neutral betrachten'.

Ein zentrales Thema sind die versteckten Kosten der Digitalisierung. 'Nichts ist in der Welt der KI immateriell oder magisch', schreibt der Papst und prangert an: 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.' Der Text verweist auf schlecht bezahlte Datenarbeit und gefährliche Rohstoffgewinnung.

Auch Menschenhandel im digitalen Raum wird verurteilt, wo Personen zu 'Daten' und 'Paketen' herabgewürdigt werden. Zudem müsse das Eigentum an Nutzerdaten reguliert werden, fordert das Schreiben.

Autonome Waffen und ethische Grenzen

Die Enzyklika stellt klar, dass KI 'Sprache, Verhalten und Beurteilungen imitieren' könne, jedoch kein Bewusstsein, kein moralisches Gewissen und kein Verständnis für Liebe, Arbeit, Freundschaft oder Verantwortung besitze. 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt', so der Papst wörtlich.

Besonders alarmierend bewertet er KI-gestützte autonome Waffen. Sie hätten Kriege 'durchführbarer' gemacht, die KI müsse daher 'entwaffnet' werden. 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen', betont das Dokument.

Jedes KI-System enthalte Entscheidungen darüber, was gemessen, ignoriert oder bewertet werde, heißt es weiter. Deshalb sei es 'unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird'.

Aufruf zu globaler Zusammenarbeit

Der Papst warnt zudem vor KI-generierten Lügen und Fälschungen: Die ständige Flut immer raffinierterer Algorithmen könne Entscheidungen und Vorlieben leicht beeinflussen. Sein Appell: 'Bleiben wir der Wahrheit treu!'

Die Enzyklika trägt das Datum 15. Mai – auf den Tag genau 135 Jahre nach 'Rerum novarum' von Papst Leo XIII., jener Enzyklika, die im Zuge der Industriellen Revolution die katholische Soziallehre begründete. Papst Leo XIV knüpft bewusst an diese Tradition an.

Über die gesamte Länge hinweg ruft das Schreiben zu multilateraler Zusammenarbeit auf. Internationale Organisationen und Diplomatie seien zentrale Instrumente, um Krisen zu verhindern und Vertrauen wiederaufzubauen. Der Papst warnt davor, in Resignation zu verfallen, und kritisiert, dass nur wenige Wohlhabende von KI profitieren würden.

US-Präsident Donald Trump wird in dem Text nicht namentlich genannt. Dennoch erscheint die Enzyklika vor dem Hintergrund seiner wiederholten Angriffe auf Anthropic und den Papst – Trump hatte zuletzt ein KI-generiertes Bild von sich als Jesus veröffentlicht – als deutliches Signal an eine Politik, die auf ungezügelte Technologien setzt.