Papst Leo XIV. warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Deutlich wird die Kritik an schlecht bezahlter Datenarbeit und gefährlichem Rohstoffabbau: „Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt“, heißt es wörtlich. Die Enzyklika prangert zudem Menschenhandel im digitalen Raum an, wo Menschen zu „Daten“ und „Paketen“ degradiert würden.

Gefahren autonomer Waffensysteme

Mit Nachdruck stellt der Papst klar, dass KI kein Bewusstsein besitze: Systeme könnten „Sprache, Verhalten und Beurteilungen imitieren“, aber kein Herz, kein Gewissen und kein Verständnis für Liebe, Arbeit, Freundschaft und Verantwortung entwickeln. „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt“, so Leo XIV.

Deshalb fordert er klare Verantwortung und Kontrolle: Es sei „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“. Die KI müsse zudem „entwaffnet“ werden, da autonome Waffensysteme Kriege begünstigten.

„Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“, betont der Pontifex. Er ruft die internationale Gemeinschaft auf, durch Diplomatie und multilaterale Kooperation Vertrauen wieder aufzubauen und Krisen zu verhindern.

Historische Parallelen

Die Enzyklika reiht sich ein in die sozialethische Tradition der Kirche. Vor genau 135 Jahren hatte Papst Leo XIII. mit „Rerum novarum“ die Grundlagen der katholischen Soziallehre als Antwort auf die Industrielle Revolution gelegt. Leo XIV. knüpft nun an diese Linie an und mahnt, angesichts globaler Probleme nicht in Resignation zu verfallen.

An der Präsentation nahm Chris Olah teil, Mitgründer des US-KI-Konzerns Anthropic. Das Unternehmen aus San Francisco weigert sich, seine KI-Modelle der US-Regierung unter Präsident Donald Trump für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen. Der Papst, der Trump nicht namentlich erwähnt, hatte sich zuletzt wiederholt der Kritik des Präsidenten ausgesetzt – Trump veröffentlichte während des Streits mit dem Papst ein KI-generiertes Bild von sich selbst als Jesus.

Leo XIV. ruft die Gläubigen auf, sich nicht von KI-Lügen und Fälschungen täuschen zu lassen: „Bleiben wir der Wahrheit treu!“