Papst Leo warnt in erster Enzyklika vor Risiken der Künstlichen Intelligenz

Die Enzyklika macht darauf aufmerksam, dass hinter scheinbar „immateriellen“ KI-Systemen eine Kette von Ausbeutung und Abhängigkeit steckt. „Nichts ist in der Welt der KI immateriell oder magisch“, heißt es. Jeder digitale Dienst basiere auf der oft unsichtbaren Arbeit von Millionen Menschen.

Konkret verurteilt der Papst die Ausbeutung in globalen Liefer- und Datenketten, etwa schlecht bezahlte Datenarbeit und gefährliche Rohstoffgewinnung. „Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt“, zitiert das Dokument. Auch der Menschenhandel im digitalen Raum, bei dem Menschen zu „Daten“ und „Paketen“ degradiert werden, wird angeprangert.

Verdeckte Ausbeutung und fehlendes Bewusstsein

Der Papst betont, dass KI-Systeme Sprache, Verhalten und Urteile imitieren können, aber kein Bewusstsein, kein moralisches Gewissen und kein Verständnis für „Liebe, Arbeit, Freundschaft und Verantwortung“ besitzen. „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt“, so das Schreiben.

Aus diesem Grund fordert Leo XIV. klare Verantwortung und Kontrolle beim Einsatz von KI, um die Menschenwürde und das Gemeinwohl zu schützen. Es sei „unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird“. Auch das Eigentum an Nutzerdaten müsse geregelt werden.

Die Enzyklika stellt zudem fest, dass KI nicht als moralisch neutral betrachtet werden dürfe. Jedes System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet. „Wir können KI nicht als moralisch neutral betrachten“, mahnt der Papst, und eine Orientierung an Moral und menschlichen Werten sei nutzlos, „wenn diese Moral von einigen wenigen bestimmt wird“.

Klare Forderungen: Kontrolle, Entwaffnung und Wahrheit

Besonders deutlich werden die Warnungen vor KI-gestützten autonomen Waffensystemen. Diese hätten Kriege „durchführbarer“ gemacht. Der Papst fordert: KI müsse „entwaffnet“ werden. „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.“

Zugleich mahnt das Schreiben zur Wachsamkeit gegenüber KI-generierten Fälschungen und Desinformation. Unaufhörliche Ströme von Informationen, Meinungen und Bildern könnten mit immer ausgefeilteren Algorithmen Entscheidungen und Vorlieben leicht beeinflussen. Der Appell lautet: „Bleiben wir der Wahrheit treu!“

Internationale Organisationen und Diplomatie seien zentrale Instrumente zur Konfliktlösung. Dialog und multilaterale Zusammenarbeit seien unverzichtbar, um Krisen vorzubeugen und Vertrauen wiederherzustellen, so die Enzyklika.

Historische Parallelen und politische Spannungen

Das Schreiben trägt das Datum 15. Mai, genau 135 Jahre nachdem Papst Leo XIII. mit seiner Enzyklika „Rerum novarum“ die Grundlagen der katholischen Soziallehre als Antwort auf die Industrielle Revolution legte.

Hintergrund des päpstlichen Vorstoßes ist auch ein politischer Konflikt: Der KI-Konzern Anthropic liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil er sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen. Trump hatte sowohl den Papst als auch Anthropic mehrfach kritisiert und veröffentlichte auf dem Höhepunkt der Auseinandersetzung ein KI-generiertes Bild von sich als Jesus. Der US-Präsident wird in der Enzyklika nicht namentlich genannt.