Papst Leo XIV. warnt in erster Enzyklika vor Risiken durch Künstliche Intelligenz

Warnung vor Machtkonzentration und Ausbeutung

In dem Text warnt der Papst: "Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen." Er betont, dass hinter scheinbar "immateriellen" KI-Systemen eine Kette von Ausbeutung und Abhängigkeit steckt: "Nichts ist in der Welt der KI immateriell oder magisch."

Jeder digitale Dienst beruhe auf der oft unsichtbaren Arbeit von Millionen Menschen, kritisiert die Enzyklika. Angeprangert werden schlecht bezahlte Datenarbeit, gefährliche Rohstoffgewinnung und Menschenhandel im digitalen Raum, wo Personen zu "Daten" und "Paketen" degradiert werden. Wörtlich heißt es: "Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt."

Papst Leo XIV. warnt zudem vor KI-generierten Lügen und Fälschungen. Er spricht von "unaufhörlichen Flüssen von Informationen, Meinungen und Bildern", die mit immer raffinierteren Algorithmen Entscheidungen und Vorlieben beeinflussen können. Sein Appell: "Bleiben wir der Wahrheit treu!" Die Enzyklika stellt klar: "Wir können KI nicht als moralisch neutral betrachten."

Autonome Waffen und die Forderung nach Kontrolle

Der Pontifex erklärt, dass KI-Systeme zwar Sprache, Verhalten und Urteile nachahmen, aber kein Bewusstsein, kein moralisches Gewissen und kein Verständnis für Liebe, Arbeit, Freundschaft oder Verantwortung besitzen. "Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt", heißt es.

Mit Nachdruck fordert Leo XIV. verbindliche Regeln: Es sei "unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird". Auch die Eigentumsverhältnisse an Nutzerdaten müssten geregelt werden.

Besondere Sorge gilt autonomen Waffensystemen. Der Papst sagte, KI-gestützte Waffen hätten Kriege "durchführbarer" gemacht, und verlangte, die Technologie müsse "entwaffnet" werden. "Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen", so der Text.

Ungewöhnlicher Gast aus dem Silicon Valley

Bei der Vorstellung der Enzyklika war auch Chris Olah anwesend, Mitbegründer des KI-Konzerns Anthropic mit Sitz in San Francisco. Es war das erste Mal, dass ein Vertreter eines KI-Unternehmens an der Präsentation einer Enzyklika teilnahm.

Anthropic befindet sich im Streit mit der US-Regierung unter Präsident Donald Trump, weil das Unternehmen sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen. Trump hat sowohl Anthropic als auch den Papst mehrfach öffentlich kritisiert und auf dem Höhepunkt des Konflikts ein KI-generiertes Bild veröffentlicht, das ihn selbst als Jesus darstellt. Der Präsident wird in der Enzyklika nicht namentlich genannt.

Appell an internationale Zusammenarbeit

Das Lehrschreiben unterstreicht, dass internationale Organisationen und Diplomatie zentrale Instrumente zur Konfliktlösung sind. Dialog und multilaterale Zusammenarbeit seien unerlässlich, um Krisen zu verhindern und Vertrauen wieder aufzubauen.

Papst Leo XIV. warnt vor der Versuchung, angesichts globaler Probleme in Resignation zu verfallen. Die Enzyklika trägt das Datum 15. Mai – exakt 135 Jahre nachdem Papst Leo XIII. mit "Rerum novarum" die katholische Soziallehre als Antwort auf die industrielle Revolution begründete.