Papst Leo XIV. warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Kritik an Technologiekonzernen

In dem Schreiben kritisiert der Papst die Macht globaler Technologiekonzerne. "Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen", heißt es. Der US-Präsident Donald Trump wird dabei nicht namentlich genannt, doch das Dokument erscheint inmitten von Spannungen: Trump hatte sowohl den Papst als auch Anthropic mehrfach kritisiert. Hintergrund ist ein Streit zwischen Anthropic und der US-Regierung, weil das Unternehmen sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen.

Trump wiederum hatte auf dem Höhepunkt der Auseinandersetzung ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus darstellt. Der Papst warnt in der Enzyklika ausdrücklich vor KI-gestützten Lügen und Fälschungen und mahnt: "Bleiben wir der Wahrheit treu!"

Menschenwürde und Ausbeutung

Ein zentrales Anliegen des Papstes ist die Bewahrung der Menschenwürde. Er betont, dass KI kein Bewusstsein und kein moralisches Gewissen besitze und weder Liebe noch Arbeit, Freundschaft oder Verantwortung verstehe. "Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt", schreibt er.

Zugleich prangert das Lehrschreiben die oft unsichtbaren Kosten der digitalen Welt an. "Nichts ist in der Welt der KI immateriell oder magisch", heißt es. Jede digitale Leistung beruhe auf der Arbeit von Millionen Menschen. Der Papst kritisiert die Ausbeutung in globalen Liefer- und Datenketten, darunter schlecht bezahlte Datenarbeit und gefährliche Rohstoffgewinnung. "Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt", warnt der Text in drastischen Worten.

Auch Menschenhandel im digitalen Raum wird thematisiert, bei dem Menschen zu "Daten" und "Paketen" degradiert würden. Der Papst fordert daher eine Regulierung des Eigentums an Nutzerdaten.

Aufruf zur Verantwortung

Papst Leo XIV. verlangt klare Kriterien und wirksame Kontrollen beim Einsatz von KI, vor allem wenn es um öffentliche Güter und Grundrechte geht. "Wir können KI nicht als moralisch neutral betrachten", betont er. Jedes System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet. Deshalb sei die Ausrichtung an einer Moral, die von einigen wenigen bestimmt wird, ungenügend: "unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird".

Besonders deutlich wird der Papst beim Thema autonome Waffen. KI-gestützte Waffensysteme hätten Kriege "durchführbarer" gemacht, schreibt er. Er fordert, KI müsse "entwaffnet" werden. "Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen."

Das Lehrschreiben ruft zu internationaler Zusammenarbeit auf. Dialog und multilaterale Kooperation seien unverzichtbar, um Krisen zu verhindern und Vertrauen wieder aufzubauen. Internationale Organisationen und Diplomatie bezeichnet es als zentrale Instrumente der Konfliktlösung.

Die Enzyklika trägt das Datum 15. Mai – genau 135 Jahre, nachdem Papst Leo XIII. mit "Rerum novarum" die Grundlagen der katholischen Soziallehre legte. Leo XIV., der erste US-Amerikaner auf dem Papstthron, war im Alter von 70 Jahren im Mai des Vorjahres zum Nachfolger des verstorbenen Papstes Franziskus gewählt worden.