Papst Leo XIV. veröffentlicht erste Enzyklika: Deutliche Warnung vor Risiken der Künstlichen Intelligenz

Trump hatte zuletzt sowohl den Papst als auch das KI-Unternehmen Anthropic mehrfach kritisiert. Anthropic befindet sich im Streit mit der US-Regierung, weil es seine KI-Modelle nicht für autonome Waffensysteme und zivile Überwachung zur Verfügung stellen will.

Ein prominenter Gast bei der ungewöhnlichen Präsentation war Chris Olah, Mitgründer des in San Francisco ansässigen KI-Konzerns Anthropic. Es war das erste Mal, dass ein Vertreter eines KI-Unternehmens an der Vorstellung einer Enzyklika teilnahm.

Kritik an Ausbeutung und Menschenhandel

Die Enzyklika prangert an, dass hinter vermeintlich immateriellen KI-Systemen „eine Kette von Ausbeutung und Abhängigkeit“ stehe. „Nichts ist in der Welt der KI immateriell oder magisch“, heißt es. Jeder digitale Dienst beruhe auf der oft unsichtbaren Arbeit von Millionen Menschen.

Deutliche Worte findet das Schreiben zu den globalen Liefer- und Datenketten: „Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.“ Zudem kritisiert es Menschenhandel im digitalen Raum, wo Menschen zu „Daten“ und „Paketen“ degradiert würden.

Forderung nach klaren Kontrollen

Mit Blick auf autonome Waffensysteme und KI-gestützte Entscheidungen fordert der Papst eine „Entwaffnung“ der Künstlichen Intelligenz. „Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen“, betonte er.

KI müsse sich an Moral und menschlichen Werten orientieren, doch sei dies nutzlos, „wenn diese Moral von einigen wenigen bestimmt wird“. Der Papst verlangte, dass der Einsatz von KI von „klaren Kriterien und wirksamen Kontrollen begleitet wird“ und auch das Eigentum an Nutzerdaten reguliert werden müsse.

Die Enzyklika mahnt zudem zur internationalen Zusammenarbeit: Dialog und multilaterale Kooperation seien unverzichtbar, um Krisen vorzubeugen und Vertrauen neu aufzubauen. Vor Resignation angesichts globaler Probleme warnt der Papst ausdrücklich: „Bleiben wir der Wahrheit treu!“

Symbolische Veröffentlichung

Das Datum der Veröffentlichung, der 15. Mai, markiert exakt 135 Jahre nach der Enzyklika 'Rerum novarum' von Papst Leo XIII., die das Fundament der katholischen Soziallehre legte – eine bewusste symbolische Anknüpfung an die industrielle Revolution und nun das KI-Zeitalter.