Papst Leo XIV. warnt in erster Enzyklika vor Risiken Künstlicher Intelligenz

Gleichzeitig stellt Leo XIV. klar, dass KI kein Bewusstsein besitzt: "Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt." Er warnt davor, dass KI Sprache, Verhalten und Urteile imitieren könne, aber keine moralische Verantwortung kenne.

Die Illusion der Neutralität

Der Papst ruft zu klaren Kriterien und wirksamen Kontrollen auf. Der Einsatz von KI, insbesondere bei öffentlichen Gütern und Grundrechten, müsse von Regeln begleitet werden. "Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen", zitiert das Dokument.

Besondere Aufmerksamkeit gilt autonomen Waffensystemen. KI müsse "entwaffnet" werden, so der Papst, denn solche Systeme machten Kriege "durchführbarer". Er fordert, dass KI mit Moral und menschlichen Werten in Einklang gebracht werde, aber dies sei nutzlos, "wenn diese Moral von einigen wenigen bestimmt wird".

In diesem Zusammenhang wird auch der KI-Konzern Anthropic erwähnt, der im Streit mit der US-Regierung unter Präsident Donald Trump liegt. Anthropic weigert sich, seine Modelle für autonome Waffen und zivile Überwachung zur Verfügung zu stellen. Trump hat sowohl den Papst als auch das Unternehmen zuletzt mehrfach kritisiert und ein KI-generiertes Bild von sich als Jesus veröffentlicht. Der Papst nennt Trump nicht namentlich.

Konflikt mit Trump und ungewöhnliche Allianz

Ein Novum: Mit Chris Olah, Mitgründer von Anthropic, nahm erstmals ein Tech-Milliardär und Mitbegründer eines KI-Unternehmens an der Vorstellung einer Enzyklika teil. Hochrangige Kardinäle und Theologen begleiteten den Papst bei der Präsentation, die auch der Pontifex selbst erstmals persönlich besuchte.

Die Enzyklika trägt das Datum 15. Mai, genau 135 Jahre nach der Veröffentlichung von 'Rerum novarum' durch Papst Leo XIII. Jenes Schreiben legte die Grundlagen der katholischen Soziallehre angesichts der Industriellen Revolution. 'Magnifica Humanitas' wird als modernes Pendant im KI-Zeitalter gesehen.

Historische Parallele

Das Dokument betont die Bedeutung von Dialog und multilateraler Zusammenarbeit, um Krisen zu verhindern und Vertrauen wiederherzustellen. Es warnt vor Resignation und ruft zum Handeln auf: "Bleiben wir der Wahrheit treu!"

Leo XIV., 70 Jahre alt, steht seit Mai des Vorjahres an der Spitze von weltweit etwa 1,4 Milliarden Katholiken. Er ist der erste US-Amerikaner im Papstamt und Nachfolger des verstorbenen Papstes Franziskus.