Papst Leo XIV. warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Macht der Tech-Konzerne im Visier

Das Dokument kritisiert scharf die Machtkonzentration großer Technologiekonzerne. „Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen“, heißt es in dem Text.

Die Enzyklika fordert, dass der Einsatz von KI – besonders wenn es um öffentliche Güter und Grundrechte geht – „von klaren Kriterien und wirksamen Kontrollen begleitet wird“. Papst Leo XIV. betont: „Wir können KI nicht als moralisch neutral betrachten.“

Ein weiterer Schwerpunkt ist die unsichtbare Arbeit von Millionen Menschen, die hinter digitalen Diensten steckt. Das Schreiben prangert Ausbeutung in globalen Liefer- und Datenketten an, darunter schlecht bezahlte Datenarbeit und gefährliche Rohstoffgewinnung. „Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt“, warnt der Papst.

Auch die Menschenwürde im digitalen Raum wird thematisiert. Die Enzyklika verurteilt Formen von Menschenhandel, bei denen Personen zu „Daten“ und „Paketen“ degradiert werden. Es dürfe nicht sein, dass Menschen „von künstlichen Systemen auf bloße Objekte reduziert werden“, mahnt der Papst.

Keine moralische Neutralität von KI

KI-Systeme seien nicht fähig zu echtem Bewusstsein oder moralischem Urteil, stellt das Schreiben klar. Sie könnten „Sprache, Verhalten und Beurteilungen imitieren“, besäßen aber kein Gewissen und verständen nicht Begriffe wie Liebe, Arbeit oder Verantwortung. „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“

Konsequent lehnt der Papst lebensentscheidende Automatismen ab. „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“, schreibt er. KI-gestützte autonome Waffensysteme hätten Kriege nicht etwa unmöglich gemacht, sondern befeuert. Papst Leo XIV. fordert, KI müsse „entwaffnet“ werden.

Als zentrale Instrumente zur Konfliktlösung sieht das Schreiben internationale Organisationen und die Diplomatie. Zudem verlangt der Papst, dass auch das Eigentum an Nutzerdaten reguliert wird. „Nichts ist in der Welt der KI immateriell oder magisch“, erinnert die Enzyklika und mahnt zur Sorgfalt.

Historische Bezüge und politische Brisanz

Das Datum der Veröffentlichung, der 15. Mai, markiert genau 135 Jahre nach der Enzyklika „Rerum novarum“ von Papst Leo XIII. Dieses historische Dokument legte angesichts der Industriellen Revolution die Grundlagen der katholischen Soziallehre. Papst Leo XIV. stellt sich damit bewusst in diese Tradition und fordert eine neue Soziallehre für das KI-Zeitalter.

Hinter den Kulissen spielt auch ein aktueller politischer Konflikt: Der KI-Konzern Anthropic aus San Francisco liegt mit der US-Regierung unter Präsident Donald Trump im Streit, weil er seine Modelle nicht für autonome Waffen und zivile Überwachung bereitstellen will. Trump kritisierte deshalb mehrfach das Unternehmen und den Papst. In dieser Gemengelage tauchte Trump in sozialen Medien mit einem KI-generierten Bild auf, das ihn als Jesus darstellt. In der Enzyklika wird der US-Präsident jedoch nicht namentlich genannt.

An der Vorstellung des Lehrschreibens nahm Anthropic-Mitgründer Chris Olah teil – ein Novum, dass ein Tech-Milliardär und KI-Unternehmer persönlich bei einer solchen Präsentation in Erscheinung tritt. Der Papst selbst mahnte unterdessen, der Wahrheit treu zu bleiben: „Bleiben wir der Wahrheit treu!“