Papst Leo XIV. warnt in erster Enzyklika vor den Gefahren Künstlicher Intelligenz

Warnung vor Machtkonzentration und Ausbeutung

Schon zu Beginn warnt die Enzyklika, dass 'kleine, sehr einflussreiche Gruppen Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen' können. Der Papst sieht darin eine Gefahr für offene Gesellschaften.

Das Dokument deckt auf, was hinter der scheinbar immateriellen KI steckt: 'Nichts ist in der Welt der KI immateriell oder magisch', heißt es. Jeder digitale Dienst basiere auf der oft unsichtbaren Arbeit von Millionen Menschen. Der Papst kritisiert die Ausbeutung in globalen Liefer- und Datenketten – von schlecht bezahlten Datendiensten bis zu gefährlichem Rohstoffabbau – und wird an einer Stelle drastisch: 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt.'

Auch den Menschenhandel im digitalen Raum greift Leo XIV. auf. Dort würden Menschen zu 'Daten' und 'Paketen' herabgewürdigt, schreibt er. Die Warnung 'Wir können KI nicht als moralisch neutral betrachten' zieht sich durch die gesamte Enzyklika.

Forderung nach Regeln und Kontrolle

Der Papst betont, dass KI zwar Sprache, Verhalten und Urteile nachahmen könne, aber kein Bewusstsein, kein moralisches Gewissen besitze und Liebe, Arbeit, Freundschaft oder Verantwortung nicht verstehe. 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt', zitiert das Dokument.

Leo XIV. verlangt klare Kriterien und wirksame Kontrollen beim Einsatz von KI – besonders bei öffentlichen Gütern und Grundrechten. 'Unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird', schreibt er. Zudem müsse das Eigentum an Nutzerdaten geregelt werden und die Ausrichtung der KI an moralischen Werten dürfe nicht von wenigen Akteuren bestimmt werden.

Schonungslos kritisiert er die Rüstungsspirale: KI-gestützte autonome Waffensysteme hätten Kriege 'durchführbarer' gemacht. Der Papst fordert, KI müsse 'entwaffnet' werden und es sei 'nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.'

Autonome Waffen und der Konflikt mit den USA

Bei der mit Spannung erwarteten Präsentation der Enzyklika saß ungewöhnlicher Besuch im Vatikan: Chris Olah, Mitgründer des US-KI-Konzerns Anthropic, nahm gemeinsam mit hochrangigen Kardinälen und Theologen teil. Die Kirche sprach von einer Novität – es war das erste Mal, dass ein Vertreter eines KI-Unternehmens bei der Vorstellung einer Enzyklika anwesend war.

Olahs Unternehmen mit Sitz in San Francisco liegt im Streit mit der Regierung von US-Präsident Donald Trump, weil es sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen. Trump hat in den vergangenen Monaten sowohl Anthropic als auch den Papst mehrfach kritisiert und zuletzt ein KI-generiertes Bild von sich als Jesus veröffentlicht.

In der Enzyklika wird der US-Präsident nicht namentlich genannt. Dennoch dürften viele Passagen als Antwort auf die Konfrontation verstanden werden. Der Papst mahnt, dass man nicht der 'Resignation angesichts globaler Probleme' erliegen dürfe und ruft dazu auf, sich nicht von KI-Lügen und Fälschungen täuschen zu lassen: 'Bleiben wir der Wahrheit treu!'

Historischer Rahmen und Ausblick

Die Enzyklika trägt das Datum 15. Mai – genau 135 Jahre nach der Veröffentlichung von 'Rerum novarum' durch Papst Leo XIII. Jene Enzyklika legte im Gefolge der Industriellen Revolution die Grundlagen der katholischen Soziallehre. Leo XIV. schlägt nun einen vergleichbaren Bogen zur digitalen Revolution und verlangt einen umfassenden Schutz des Menschen.

Abschließend hebt der Papst hervor, dass internationale Organisationen und Diplomatie zentrale Instrumente der Konfliktlösung seien und dass Dialog und multilaterale Zusammenarbeit unverzichtbar seien, um Krisen zu verhindern und Vertrauen wiederaufzubauen. Er betont: 'Wir können KI nicht als moralisch neutral betrachten', und fordert eine Technik, die der gesamten Menschheit dient.