Papst Leo XIV. warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Menschliche Opfer der Digitalisierung

Das Dokument thematisiert zudem Menschenhandel im digitalen Raum, bei dem Menschen zu „Daten“ und „Paketen“ degradiert würden. Auch das Eigentum an Nutzerdaten müsse dringend reguliert werden, bekräftigt der Papst.

Mit Nachdruck fordert Leo XIV. klare Kontrollmechanismen. Es sei „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“. KI müsse moralisch ausgerichtet sein, doch das sei nutzlos, „wenn diese Moral von einigen wenigen bestimmt wird“.

Besonders eindringlich warnt die Enzyklika vor autonomen Waffensystemen. Die KI habe diese Waffen „durchführbarer“ gemacht und müsse daher „entwaffnet“ werden. „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“, unterstreicht der Papst.

Autonome Waffen und der Ruf nach Kontrolle

Gleichzeitig mahnt das Schreiben, der Versuchung der Resignation angesichts globaler Probleme nicht nachzugeben. Internationale Organisationen und Diplomatie werden als zentrale Instrumente der Konfliktlösung hervorgehoben. Der Appell gipfelt in dem Satz: „Bleiben wir der Wahrheit treu!“

Als historisches Novum wohnte der Papst der Präsentation persönlich bei, und mit Chris Olah, Mitgründer des KI-Konzerns Anthropic aus San Francisco, nahm erstmals ein Vertreter eines Technologieunternehmens an der Vorstellung einer Enzyklika teil. Anthropic befindet sich im Streit mit der US-Regierung unter Präsident Donald Trump, weil es sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung bereitzustellen.

Historische Bezüge und politische Spannungen

Trump hat in den vergangenen Wochen sowohl Anthropic als auch den Papst mehrfach kritisiert und auf dem Höhepunkt des Streits ein KI-generiertes Bild veröffentlicht, das ihn als Jesus zeigt. In der Enzyklika wird der US-Präsident jedoch nicht namentlich genannt.

Das Datum des Schreibens, der 15. Mai, fällt genau 135 Jahre nach der Enzyklika „Rerum novarum“ von Papst Leo XIII., die als Reaktion auf die Industrielle Revolution die Grundlagen der katholischen Soziallehre legte. Mit „Magnifica Humanitas“ knüpft Leo XIV. an diese Tradition an.

Abschließend erinnert der Papst an die unersetzliche menschliche Dimension: „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“ KI besitze kein Bewusstsein und verstehe „Liebe, Arbeit, Freundschaft und Verantwortung“ nicht. „Wir können KI nicht als moralisch neutral betrachten“, resümiert die Enzyklika.