Papst Leos erste Enzyklika warnt vor Risiken der Künstlichen Intelligenz

Als Vertreter der Technologiebranche wohnte der Mitgründer des KI-Unternehmens Anthropic, Chris Olah, der Vorstellung im Vatikan bei. Es war das erste Mal, dass ein KI-Firmengründer an der Präsentation einer Enzyklika teilnahm. Anthropic mit Sitz in San Francisco ist nach eigenen Angaben in einem Streit mit der US-Regierung unter Präsident Donald Trump, weil das Unternehmen seine KI-Modelle nicht für autonome Waffen und Massenüberwachung zur Verfügung stellen will.

Mit dieser Haltung trifft Anthropic auf heftigen Gegenwind. Trump hatte zuletzt sowohl das Unternehmen als auch den Papst mehrfach öffentlich kritisiert. Zuvor sorgte ein von Trump veröffentlichtes KI-generiertes Bild, das ihn selbst als Jesus darstellt, für Aufsehen. Der US-Präsident wird in der Enzyklika nicht namentlich genannt.

Die Schattenseiten der KI-Welt

In dem Schreiben warnt der Papst vor der Illusion, KI sei immateriell oder gar magisch. 'Nichts ist in der Welt der KI immateriell oder magisch', heißt es. Stattdessen verweist er auf die realen Folgen: Rohstoffabbau, schlecht bezahlte Dateneingabe und globale Lieferketten, in denen Menschen ausgebeutet werden. 'Körper werden verletzt, verstümmelt und verbraucht, damit der Rechenfluss nicht zum Stillstand kommt', formuliert er an einer zugespitzten Stelle.

Auch das Problem des digitalen Menschenhandels greift die Enzyklika auf. Darin würden Menschen zu 'Daten' und 'Paketen' degradiert, warnt der Papst.

Gleichzeitig stellt Leo XIV. klar, dass KI-Systeme trotz aller technischen Fähigkeiten kein menschliches Bewusstsein besitzen. Sie könnten 'Sprache, Verhalten und Urteile imitieren', doch ihnen fehle jedes Verständnis von 'Liebe, Arbeit, Freundschaft und Verantwortung'. 'Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt', schreibt er.

Krieg, Täuschung und die Forderung nach Kontrolle

Angesichts autonomer Waffensysteme fordert der Papst eine grundlegende Neubewertung. Solche Systeme hätten Kriege leichter führbar gemacht, heißt es im Text. KI müsse 'entwaffnet' werden. 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen', so die Enzyklika.

Auch vor der manipulativen Kraft von KI-generierten Fälschungen warnt Leo XIV. Die ständig wachsenden Ströme aus 'Informationen, Meinungen und Bildern', gesteuert von immer ausgefeilteren Algorithmen, könnten Entscheidungen und Vorlieben leicht beeinflussen. 'Bleiben wir der Wahrheit treu!', appelliert er.

Als zentrale Instrumente für Konfliktlösung und Vertrauensbildung benennt die Enzyklika internationale Organisationen und Diplomatie. Der Dialog und die multilaterale Zusammenarbeit seien unverzichtbar, um Krisen zu verhindern und Vertrauen wiederherzustellen. Zugleich warnt der Papst vor Resignation angesichts globaler Probleme.

Für die Entwicklung und Nutzung von KI fordert Leo XIV. klare Kriterien und wirksame Kontrollen, insbesondere wenn es um öffentliche Güter und Grundrechte geht. Auch die Frage, wem Nutzerdaten gehören, müsse geregelt werden. Eine Ausrichtung der KI an Moral und menschlichen Werten sei zwar notwendig, aber wirkungslos, 'wenn diese Moral von einigen wenigen bestimmt wird'.

'Wir können KI nicht als moralisch neutral betrachten', hält die Enzyklika fest. Der Papst mahnt Verantwortung und Kontrolle an, um die Menschenwürde und das Gemeinwohl zu schützen. Die Botschaft richtet sich auch an Gläubige und Nichtgläubige gleichermaßen.

Die Anwesenheit eines Branchenvertreters bei der Vorstellung und die klare Stellungnahme gegen die militärische Nutzung von KI verleihen dem päpstlichen Lehrschreiben eine ungewöhnliche politische und gesellschaftliche Aktualität. Vatikanbeobachter werten die Enzyklika als programmatischen Aufschlag für die kommenden Jahre des Pontifikats.