Papst Leo XIV. warnt in erster Enzyklika vor Machtkonzentration und ethischen Gefahren der KI

Historischer Bruch und prominente Gäste

Das Dokument kritisiert scharf die globale Machtkonzentration im Technologiesektor. 'Kleine, sehr einflussreiche Gruppen können Informationen und Konsum lenken, demokratische Prozesse konditionieren und die wirtschaftliche Dynamik beeinflussen', heißt es wörtlich.

Der Papst erinnert daran, dass hinter den scheinbar immateriellen KI-Systemen massive menschliche Arbeit und Rohstoffgewinnung stehen. 'Nichts ist in der Welt der KI immateriell oder magisch', schreibt er und beklagt, dass 'Körper verletzt, verstümmelt und verbraucht werden, damit der Rechenfluss nicht zum Stillstand kommt'.

Auch die Ausbeutung in globalen Liefer- und Datenketten, einschließlich schlecht bezahlter Datenarbeit und gefährlicher Rohstoffförderung, wird angeprangert. Zudem geißelt die Enzyklika Menschenhandel im digitalen Raum, wo Personen zu 'Daten' und 'Paketen' degradiert würden.

Die verborgene Kehrseite der KI

Einen zentralen Aspekt widmet der Text den autonomen Waffensystemen. KI-gestützte Waffen hätten Kriege 'durchführbarer' gemacht, warnt der Papst und fordert, dass KI 'entwaffnet' werden müsse. 'Daher ist es nicht zulässig, tödliche oder jedenfalls irreversible Entscheidungen künstlichen Systemen anzuvertrauen', unterstreicht er.

Leo XIV. betont, dass KI-Systeme nicht als moralisch neutral betrachtet werden könnten. 'Wir können KI nicht als moralisch neutral betrachten', zitiert ihn das Schreiben, denn jedes System enthalte Entscheidungen darüber, was es misst, ignoriert oder bewertet.

Trotz der harschen Kritik räumt die Enzyklika ein, dass KI in vielen Bereichen eine 'wertvolle Hilfe' sein kann. Sie fordert jedoch klare Kriterien und wirksame Kontrollen, insbesondere wenn es um öffentliche Güter und Grundrechte geht.

Forderung nach ethischen Leitplanken

Die Enzyklika warnt zudem vor KI-generierten Fälschungen und Desinformation: 'Bleiben wir der Wahrheit treu!', appelliert der Papst. Er sieht internationale Organisationen und Diplomatie als zentrale Instrumente, um den Herausforderungen zu begegnen.

Papst Leo XIV., der erste US-Amerikaner an der Spitze der rund 1,4 Milliarden Mitglieder zählenden katholischen Kirche, ist seit Mai des Vorjahres als Nachfolger des verstorbenen Papstes Franziskus im Amt. Sein Lehrschreiben reiht sich in die Tradition von 'Rerum novarum' ein – jener Enzyklika, mit der Leo XIII. vor genau 135 Jahren die katholische Soziallehre als Antwort auf die Industrielle Revolution begründete.

Hintergrund der päpstlichen Intervention ist auch der aktuelle Konflikt zwischen dem KI-Unternehmen Anthropic und der US-Regierung unter Präsident Donald Trump. Anthropic weigert sich, seine Modelle für autonome Waffensysteme und zivile Überwachung zur Verfügung zu stellen. Trump hatte sowohl Anthropic als auch den Papst mehrfach öffentlich kritisiert und in der Auseinandersetzung ein KI-generiertes Bild von sich selbst als Jesus veröffentlicht. Die Enzyklika erwähnt den US-Präsidenten nicht namentlich.