Papst Leo präsentiert erste Enzyklika: Warnung vor Risiken der Künstlichen Intelligenz

Auch der Menschenhandel im digitalen Raum wird thematisiert, wo Menschen zu 'Daten' und 'Paketen' degradiert werden. Der Papst ruft dazu auf, die Menschenwürde in den Mittelpunkt zu stellen und den Einzelnen nicht zu einem bloßen Objekt der Algorithmen zu machen.

Leo XIV. stellt klar, dass KI-Systeme Sprache, Verhalten und Urteile nachahmen können, aber 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.' Sie besitzen weder Bewusstsein noch moralisches Empfinden und verstehen Liebe, Freundschaft oder Verantwortung nicht.

Warnung vor Täuschung und Manipulation

Der Pontifex fordert deshalb verbindliche Regeln: 'unerlässlich, dass der Einsatz von KI – insbesondere, wenn es um öffentliche Güter und Grundrechte geht – von klaren Kriterien und wirksamen Kontrollen begleitet wird.'

Die Enzyklika warnt eindringlich vor KI-generierten Lügen und Fälschungen. Die ständigen Informationsströme mit immer ausgefeilteren Algorithmen könnten Entscheidungen und Vorlieben leicht beeinflussen. 'Bleiben wir der Wahrheit treu!', lautet der Appell des Papstes.

'Wir können KI nicht als moralisch neutral betrachten', schreibt Leo XIV. Jedes KI-System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet. Deshalb müsse der Mensch die letzte Verantwortung behalten.

Gegen tödliche Entscheidungen aus der Maschine

Besonders deutlich wird der Papst bei militärischen Anwendungen: 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen.' Er verlangt, KI müsse 'entwaffnet' werden, da autonome Waffensysteme Kriege erleichtert hätten.

Die Enzyklika betont, dass internationale Organisationen und Diplomatie zentrale Instrumente der Konfliktlösung seien. Zugleich warnt sie vor der Versuchung, angesichts globaler Probleme in Resignation zu verfallen.

Historisches Echo und politische Brisanz

Das Schreiben, das auf den 15. Mai datiert ist, wurde genau 135 Jahre nach der Enzyklika 'Rerum novarum' von Papst Leo XIII. veröffentlicht, die die Grundlagen der katholischen Soziallehre legte. Damit stellt sich Leo XIV. bewusst in die Tradition kirchlicher Sozialkritik im Angesicht einer technischen Revolution.

An der Vorstellung im Vatikan nahm auch Chris Olah, Mitgründer des KI-Unternehmens Anthropic, teil – ein Novum für den Heiligen Stuhl. Anthropic mit Sitz in San Francisco liegt im Streit mit der US-Regierung unter Präsident Donald Trump, weil es sich weigert, seine KI-Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen.

Trump, der sowohl Anthropic als auch den Papst mehrfach kritisiert hatte, veröffentlichte auf dem Höhepunkt des Streits ein KI-generiertes Bild, das ihn selbst als Jesus darstellt. Der Präsident wird in der Enzyklika nicht namentlich genannt, doch die Botschaft ist unübersehbar: 'wenn diese Moral von einigen wenigen bestimmt wird', warnt Leo XIV. vor der Konzentration von Entscheidungsmacht.

Die erste Enzyklika eines Pontifikats gilt als programmatische Regierungserklärung. Mit 'Magnifica Humanitas' hat Papst Leo XIV., der erste US-Amerikaner unter den rund 1,4 Milliarden Katholiken weltweit, eine dringliche ethische Debatte über die Zukunft der Menschheit im KI-Zeitalter angestoßen.